“智能体安全可信守护行动”正式启动，联盟携手产业界主动应对智能体安全风险

当前智能体凭借感知、决策、行动与迭代能力，成为人工智能落地应用的核心载体。从斯坦福虚拟小镇、豆包手机助手到OpenClaw话题持续爆火，应用场景持续拓展，深刻改变生产生活方式。但也带来了行为失控、数据泄露、工具滥用等安全风险，亟需建立科学的安全风险研究方法与系统的评估防护指引，保障智能体健康发展。对此，中国人工智能产业发展联盟（AIIA）安全治理委员会联合中国信息通信研究院人工智能研究所发起“智能体安全可信守护行动”。以“守牢安全底线、护航产业发展”为目标，整合产学研用多方资源，明确5大重点工作内容，构建全流程安全守护格局，提升智能体落地应用的安全水平。

以《人工智能安全承诺-智能体专项》为工作起点，围绕智能体的“行为可控、数据可信、责任可溯”三大维度，开展智能体透明可信研究，构建智能体行为透明化评估框架与披露机制。具体拟针对智能体“行为越界”风险，推动研制行为可控规范；针对智能体“数据泄露”风险，推动研制数据可信规范；针对智能体“责任模糊”风险，推动研制责任可溯规范。旨在推动智能体从“黑盒运行”向“透明可控”转变，为安全监管、风险研判与责任界定提供指引。

围绕智能体全生命周期安全，研究智能体在典型场景下的真实安全风险，拆解智能体的内生和衍生安全问题，划清底线红线，开展智能体安全技术要求预研，推动建立基准测试评估、安全行为监测、安全防护等手段，形成体系化的安全可靠保障机制。

依托“鲸智社区-人工智能大模型公共服务平台”，通过漏洞扫描、安全审计等手段，建立智能体可靠工具库和可信数据源，集中展示、推广优质和可靠的智能体三方工具库和可信数据源，为产业提供即用型的基础组件支撑，降低智能体开发与运维门槛，提升安全风险应对能力。

聚焦“智能体可信身份认证体系”建设，研究智能体身份标识、主体确权、行为溯源、权限管控等关键机制，推动建立跨平台、跨场景的可信身份认证与互认体系；研究智能体网络相关安全通信与交互技术，推动产业构建高安全的智联网通信标准与技术体系；联合产学研用单位搭建协同共治生态，开展标准宣贯、技术交流、人才培养、合规指引，构建安全有序、开放协同的智能体安全生态。

面向运营商等重点行业，研判行业典型安全风险、通用安全需求与安全产品服务，组织开展智能体安全场景化安全解决方案研究，形成可复制、可推广的行业研究报告和实践指南；推动安全技术与业务场景深度融合，组织开展行业试点技术验证，优化标准、工具、机制的实用性与有效性，构建行业智能体安全协同创新机制，高效推动智能体安全能力标准化、规模化落地。