世界数字科学院发布全球首个AI智能体安全测试标准

7月14日消息，世界数字科学院（WDTA）近日在联合国日内瓦总部正式发布了全新的AI STR系列标准——AI智能体运行安全测试标准。该标准由蚂蚁集团、清华大学和中国电信联合主导，参与编制的还包括普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等二十多家国内外机构、企业和高校，共同制定了全球首个针对单智能体运行安全的测试标准。

这项标准聚焦于智能体跨越“语言墙”所带来的“行为”风险，首次将输入输出、大模型、RAG、记忆和工具五个关键环节与运行环境相对应，建立了一套完整的全链路风险分析框架。同时，标准对智能体的风险类型进行了细分，并创新性地提出了包括模型检测、网络通信分析和工具模糊测试在内的多种测试方法，有效填补了当前智能体安全测试技术标准的空白。

相关方面表示，该标准不仅为智能体安全设定了可操作且可靠的基准，也对推动全球AI智能体生态的安全、可信和可持续发展起到了积极作用。目前，部分标准已在金融、医疗等行业领域开始应用测试和认证工作。

此前，WDTA已陆续发布了三项AI STR标准，内容涵盖生成式人工智能应用安全测试、大语言模型安全测试方法以及大模型供应链安全要求，得到了来自OpenAI、科大讯飞、谷歌、微软、英伟达、百度、腾讯等一批国际知名企业和研究机构多位专家的广泛参与和支持。