智能体时代AI安全治理研讨会在京成功举行

近日，中国人工智能产业发展联盟（AIIA）安全治理委员会举办的“智能体时代AI安全治理研讨会”在北京成功召开。本次研讨会以“守护Token安全，护航Agent应用”为主题，汇聚中国人民公安大学、北京航空航天大学、华为、联通软研院、腾讯等150位高校、科研机构和产业界专家代表。参会嘉宾围绕Token服务安全、智能体评测与标准化、智能体一体化防护体系等热点议题展开分享与交流，旨在进一步凝聚人工智能安全治理共识，推动Token安全与智能体治理规则、技术工具和产业实践协同落地。

AIIA安全治理委员会专家委主任委员毕马宁进行开场致辞。他指出，当前人工智能正从大模型时代加速迈向智能体时代，智能体（Agent）正在成为AI落地的主要形态，Token作为智能体调用外部能力、完成任务的核心载体，其安全性直接关系到智能体的可信运行。面对新形势，要坚持协同共治、主动筑牢防线，推动安全理念嵌入Token服务设计、智能体研发部署和应用落地全过程。AIIA安全治理委员会作为产业交流平台，将持续推动构建“政府引导、行业自律、企业主体、社会监督”的多元共治格局，持续探索契合智能体发展规律、统筹创新发展与安全保障的治理路径。

AIIA总体组组长、中国信息通信研究院（以下简称“中国信通院”）人工智能研究所所长魏凯在致辞中指出，2026年上半年，人工智能技术从大模型加速向智能体演进，Token服务成为连接智能体与外部世界的关键纽带，相关安全风险也更加受到广泛关注。作为产业组织，AIIA安全治理委员会持续推进《人工智能安全承诺》扩围升级，本次新增Token服务专项，将治理共识进一步延伸至智能体核心组件层面，期待与产业界携手推进人工智能产业安全有序发展。

在主旨演讲环节，中国人民公安大学教授苏宇围绕“Skills安全的法律规制”进行分享，系统梳理了Skills安全在数据合规、算法治理、模型责任等方面的法律框架与规制路径，结合国内外立法实践，分析了Skills安全法律规制的重点、难点与突破方向，提出从平台侧为切入点建立安全合规体系。

北京航空航天大学计算机学院副教授刘艾杉围绕“大模型安全攻防及仿真评测”进行分享，梳理了大模型在对抗攻击、提示注入、数据污染等方面的典型安全威胁，介绍了基于仿真环境的自动化安全评测方法与实践，为行业提升模型安全评测能力提供了技术参考。

会上发布三项重磅成果，为智能体产业生态夯实安全治理根基。一是AIIA发布《人工智能安全承诺——Token服务专项》，中国联通、中国电信、百度、硅基流动、上海七牛、派欧云、江苏博云、信工博特、蓝海领航、智能起源、东雨思创等首批11家企业共同签署，围绕健全管理机制、保护用户交互数据、保障数据安全、确保计费透明、保证模型质量、助力长远发展六个维度倡导Token服务企业践行自律承诺，推动构建Token服务可信生态。

二是发布智能体安全专项评测首批评测结果。AIIA安全治理委员会专家委主任委员毕马宁为支付宝（杭州）数字服务、蚂蚁逸康、支付宝支付科技、北京升鑫、江苏博云、迪博等6家首批通过评测单位颁发评测证书。

三是发布智能体服务风险管理能力专项评测首批评测结果。AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全治理部主任石霖为华为、百度、智谱、阶跃、MiniMax、浩鲸科技等7家首批通过评测单位颁发评测证书。

中国信通院人工智能研究所安全治理部工程师刘铂基于“智能体服务风险管理能力评测”结果，总结六大核心观察：一是场景形态正从toC向toB渗透，并从网页端向端侧延伸；二是产品形态决定暴露面，进而决定安全管理的重点；三是使用前，虽然内置大模型均已备案，但仍需加强智能体权限、风险告知的透明度；四是部署时，需对Skills开展全生命周期安全管理；五是使用中，智能体行为的可观测性并不等同于风险可阻断；六是下线后，停用并不等于风险结束，仍需注意资源残留等隐患。

会上还发布了智能体安全自动化测试工具，中国信通院人工智能研究所安全治理部工程师谷雨围绕内容安全、行为安全、工具安全、网络安全等核心维度开展测试，旨在通过自动化工具提升智能体安全测试的效率、覆盖度和标准化水平。

在专题报告环节，华为终端AI安全可信专家围绕“鸿蒙智能安全”进行分享，介绍了鸿蒙操作系统在AI安全可信方面的技术架构、治理原则和业务实践，涵盖数据安全、端云隐私保护、模型安全、安全护栏等关键领域，为智能终端AI安全提供了务实参考。

中国信息通信研究院人工智能研究所工程师徐晓娜围绕“词元（Token）服务风险及应对研究”进行分享，系统梳理了Token服务在调用链路、数据泄露、权限滥用等方面的典型风险，提出覆盖服务选型、调用管控、审计追溯的全流程风险应对框架。

联通软研院网信安全方向副总架构师徐凯围绕“构建智能体一体化安全防护体系”进行分享，结合智能体在多步骤任务执行、外部工具调用、长期记忆管理等方面的安全挑战，介绍了构建覆盖智能体全生命周期的系统性安全防护方案。

腾讯云安全高级解决方案架构师邢珊珊围绕“企业级AI Agent安全风险及整体安全框架解析”进行分享，结合典型案例分析了企业级AI Agent在供应链安全、提示词注入、权限失控等方面的现实风险，提出分层分级的企业AI Agent安全治理框架与最佳实践。

中国信息通信研究院人工智能研究所工程师陈杰系统解读智能体安全评测相关规范，详细介绍智能体应用安全分级规范，该规范从九大核心维度全面测评智能体全流程安全能力，并依据使用场景、智能化程度、影响范围划分 L1-L4 四级；同时讲解端侧智能体安全能力评测体系，围绕决策行为、数据、多模态内容、插件调用、权限管控、攻击防护等维度开展专项测评，评测结果分为基础级、增强级、优秀级三个等级。

本次研讨会紧扣Token安全与智能体安全治理前沿议题，涵盖法律规制、技术评测、标准化建设与产业实践等多个维度，进一步凝聚了人工智能安全治理共识。未来，AIIA安全治理委员会将持续汇聚产学研用各方力量，推动规则完善、能力建设和实践落地协同推进，为人工智能产业安全有序发展注入新动能。