信通院魏薇：人工智能安全是护航人工智能健康发展的重要基石

近年来，人工智能加速成为产业转型升级的重要力量，对经济社会发展产生了深远影响。中国信通院安全研究所副所长魏薇，围绕国家对于人工智能安全发展的部署、人工智能安全保障能力提升必要性，以及推进人工智能安全能力建设路径，进行了深度解析。

一、国家高度重视人工智能安全发展

人工智能技术作为驱动新一轮科技革命与产业变革的核心引擎，带来前所未有的发展机遇。我国高度重视人工智能发展，连续两年将“人工智能+”写入政府报告，中央经济工作会议将“开展‘人工智能+’行动”列为2025年重点任务。在国家战略指导下，以DeepSeek为代表的大模型正引发新一代人工智能技术发展新浪潮。与此同时，我国高度重视人工智能安全，将其作为总体国家安全观中的重要组成部分。习总书记在中共中央政治局集体学习时强调，推动我国人工智能朝着有益、安全、公平方向健康有序发展，体现国家层面对人工智能发展和安全协调推进高度关注。如何在确保安全、可靠、可控的前提下，全面推进人工智能科技创新、产业发展和赋能应用，成为当前阶段的重点任务。

二、人工智能安全保障能力亟需提升

我国人工智能发展成就斐然，加速赋能电信、制造、医疗、教育等各行业各领域。但我们也要看到，人工智能带来新的治理挑战，例如深度伪造音视频实施精准诈骗、网络攻击技术智能化升级、数据跨境训练标注和重要数据训练安全、智能业务和产品的安全责任划分、开源模型安全管理等。在宏观战略的指引下，将安全要求转化为实际行动，落地到产业实践中，是提升人工智能安全水平的关键，也是人工智能安全发展的重要保障。面对人工智能技术加速渗透带来的复杂安全形势与治理挑战，需凝聚政产学研用各方，协同形成合力，系统推进安全保障能力建设。

三、协同推进人工智能安全能力建设

2024年中国信通院安全研究所联合三家基础电信企业启动了信息通信行业“人工智能+安全”领航计划，实施一年以来推动基础电信企业人工智能安全能力显著提升。

人工智能安全是复杂的系统性工程，需要软硬法结合的治理政策、技管结合的治理手段以及多元协作的治理结构。后续建议持续推进以下工作：一是构建动态监管机制，以“敏捷治理”为核心，加快人工智能安全监管制度标准制订实施。二是坚持技术治理优先，“技管结合”，构建“技术监测-风险预警-应急响应”一体的技术保障体系，最大限度降低风险。三是树立安全即竞争力理念，推进人工智能“安全赋能”，开展安全关键技术攻关，提升高质量测评语料库和工具箱等产品供给，形成技术创新与安全防护相互促进的良性发展路径。四是坚持多元协作，以“共治共享”为思路，强化行业自律与创新生态建设，深化国际政策交流及规则共建，共同应对全球性挑战。

四、结束语

人工智能技术加速渗透千行百业、深度重塑经济社会的发展格局下，我们必须深刻认识发展和安全一体两翼、辩证统一的关系，通过夯实安全底座、完善创新生态，为人工智能高质量发展、高水平安全良性互动筑牢坚实根基。

中国信通院安全研究所在人工智能安全政策标准、技术能力、产业发展、国际治理等方面积累了丰富的研究与实践经验。下一步将持续开展人工智能安全监管制度研究、重点标准研制、风险评估评测、安全产业创新、国际治理交流等工作，与业界共同促进人工智能健康发展。