AI安全面临灵魂拷问：“意图篡改”怎么防？绿盟科技给你答案！

随着AI Agent规模化落地被按下“加速键”，其安全是否值得信任？意图篡改、调用链投毒、供应链漏洞、合规备案压力等问题，正成为企业AI落地路上的“绊脚石”。

应势而生，绿盟科技召开以“清风拂境 · 智御全域”为主题的大模型安全创新成果线上发布会。发布会从分析AI应用需求的变化入手，以体系化方案回应行业最迫切的大模型安全防护诉求，并重磅加码绿盟“清风卫”系列产品智能体安全能力，为各行业客户AI安全落地提供可落地、可验证的最新实战指南。

“意图博弈”威胁新起，AI安全红线在哪里？

绿盟科技高级安全研究员祝荣吉

2025年AI应用经历了从“对话助手”向“智能体”的能力跃迁，高速进步的背后暴露诸多隐患：智能体自主运行时，如何避免行为失控风险？自主智能体具备逻辑主权后，它的安全红线在哪里？随“智”而变，绿盟科技高级安全研究员祝荣吉介绍了AI能力演进与攻防焦点变化趋势。他基于Agent感知、规划、记忆、行动四大核心模块，针对性提出了“感知需净输入、规划需抗干扰、记忆需防污染、行动需控权限”的防御准则。

在攻防焦点的动态演进上，祝荣吉表示AI安全正由“内容检测”向“意图博弈”深度转向：2024年聚焦“内容博弈”，重点攻坚对话框安全，解决模型“言多必失”的合规问题；2025年迈入“协议生态”，随MCP工具协议的普及，风险面由对话端延伸至业务系统，核心在于构建调用链的生态信任；2026年的安全重心将直面“意图主权”，严防攻击者通过劫持感知信息实现深层意图篡改与指令劫持。    

基于此演进趋势，会上正式发布AISS年度威胁关注矩阵。该矩阵纵向聚焦基座、数据、模型、应用、身份五大安全支柱，完成了从基础大模型到复杂Agent系统的风险透视。通过系统性梳理威胁的年度动态演进路径，矩阵旨在帮助企业在复杂多变的AI场景中精准识别风险优先级、锁定核心问题，真正实现从“盲目围堵”向“精准治理”的体系化演进与升级。

针对风险评估能力的落地，祝荣吉详细介绍了智能化红队评估的技术路径与方法论。绿盟科技依托动态数据集构建、智能风险判定及智能体业务信息探测等核心能力，通过与前沿攻防对抗方法的组合应用，实现了对MCP工具恶意利用、智能体意图劫持及预期外代码执行等新型风险的检测覆盖，真正将碎片化的红队经验转化为体系化的安全验证能力。

靠“补丁”没用，大模型安全如何实现“主动免疫”？

绿盟科技高级方案经理郝广宾

AI时代的安全，从来不是单点的“补丁式防护”，而是贯穿全流程的体系化工程，是整个AI生态的基石。绿盟科技高级方案经理郝广宾发表《“四道防线”守护大模型系统安全防护》的主题演讲，全面阐释了绿盟大模型系统安全方案，他提出“四道防线”纵深防御体系。该体系构建覆盖“开发、部署、运行”全流程的安全防护能力，以实现大模型从“被动响应”到“主动免疫”的安全升维，满足客户大模型系统安全合规应用与实战防护的双重需求。

【四道防线】实现“主动免疫”的安全升维

大模型系统开发阶段，打造“合规+校验”防线体系。要聚焦语料合规和组件安全，使用语料评估工具或服务，对全部训练数据、外挂知识库数据等进行清洗；优先采购部署经过备案的商业大模型服务，加强模型代码及组件完整性校验和安全测试，构建AI软件物料清单，剖析AI系统所依赖的各类组件，精准识别潜在三方供应链组件风险。

大模型系统部署阶段，构建“评测+加固”和“监测+防护”闭环自进化双道协同防线。让“评测”明确“防护”重点，“防护结果”反哺“模型评测”，打造“越用越聪明”的主动免疫体系。在大模型系统上线前，需围绕内容安全、对抗安全、AI红队、供应链等多维度开展安全评测，保障大模型系统安全上线；在大模型系统部署时，需围绕基础设施、模型、应用、数据等打造纵深防御，部署多级安全认证、多维联防围栏、原生应用防护、数据防泄漏等监测防护能力，打造特殊场景安全代答能力，守护大模型系统应用安全。

大模型系统应用运行阶段，优先加强大模型系统安全管理防线。从“监测预警”“应急处置”“供应链安全保障”“备案、标识双合规”等多维度开展大模型系统日常安全运营工作。

使用智能体接连踩坑，安全“防不住、查不清”？

绿盟科技高级产品经理李斌

基于对智能体安全风险的深度洞察，绿盟科技高级产品经理李斌围绕“资产管理、漏洞管理、运行时检测、MCP安全、数据安全、安全态势、安全审计”七大维度，详细介绍了覆盖智能体全生命周期的安全能力体系。发布会上，绿盟科技“清风卫”AI安全系列产品三大智能体安全组件全新亮相。

智能体资产与风险治理系统：支持对智能体核心组件（模型、工具、MCP、知识库、提示词等）进行细粒度发现与动态清点，构建资产与风险画像；

智能体运行时意图与行为安全防护：基于对智能体职责边界的AI建模，实时监测其与MCP、工具、外部系统的交互行为，实现对越权访问、数据泄露等风险的实时发现与自动阻断；

智能体红队测评与持续验证平台：依托AI红队测评引擎，基于智能体配置与业务场景生成针对性攻击用例，通过单轮与多轮对话模拟，深度挖掘潜在风险。

李斌强调，绿盟清风卫AI安全产品体系具备“平台化集成、场景化适配、自动化运营”三大特点，可灵活对接各类智能体开发平台与既有安全基础设施，为客户提供从开发态到运行态的一体化“监管控”能力。

从AI Copilot到AI Agent，从协作辅助到自主执行，大模型应用形态越深入业务核心，安全的重要性就越凸显。作为网络安全行业排头兵，绿盟科技始终秉承“巨人背后的专家”的使命，未来将持续跟踪AI应用风险与需求的变化，不断优化整体安全防护方案，升级产品和服务，为行业客户破解安全难题，让安全不再是AI创新的“顾虑”，而是驱动业务增长的“底气”！