2025年7月11日，在由联合国社会发展研究所（UNRISD）与世界数字科学院（WDTA）联合主办的“数字技术与人工智能社会影响全球咨询会”上，世界数字科学院在联合国日内瓦总部正式发布AI STR系列新标准《AI智能体运行安全测试标准》。
联合国科技委（UN CSTD）副主席兼WDTA创始理事长Peter Major表示：“数据治理的公平性、AI安全及伦理与社会价值的融合，是推动全球可持续发展的关键。应对数字技术的未来，急需建立健全法律体系、协作框架及技术标准体系，以技术公平性驱动可持续发展”。
WDTA执行理事长李雨航、IEEE主席Kalthleen Kramer 出席见证了该成果发布。
《AI智能体运行安全测试标准》成果发布现场
为“狂奔”的智能体系上“安全带”
2025年，被称为“智能体元年”，AI智能体（AI Agent）凭借着深度思考、自主规划、作出决策并深度执行的能力，目前被广泛应用在内容创作、知识问答、流程优化等各环节。然而，这种技术突破也伴随着不容忽视的安全隐忧。据21世纪经济报道最新调研显示，超过70%的智能体从业者担忧AI幻觉与错误决策、数据泄露等问题，因为AI生成的内容往往包含事实错误，或者对指令产生误解。其中超半数受访者表示所在企业尚未设立明确的智能体安全负责人。
如何为“狂奔”的智能体系上保驾护航的“安全带”？李雨航介绍，WDTA早在AI智能体发展早期已经开始进行前瞻性评估，避免技术风险深入社会各层面。此次会议上，WDTA发布《AI智能体运行安全测试标准》，提出了系统性、可落地的测试框架和评估方法，适用于自动驾驶、医疗、制造业、金融等多个高风险行业。
AI STR系列标准
此次标准是WDTA“AI安全、可信和负责任”（AI STR）认证框架的最新成果。李雨航介绍，该院正联合全球专家制定覆盖AI全生命周期的AI STR计划，此前，WDTA已发布3项AI STR标准，包括“生成式人工智能应用安全测试标准”,“大语言模型安全测试方法”和“大模型供应链安全要求”。
“面对AI相关技术的快速演进，我们必须正视‘科林格里奇困境’：一旦新技术深植社会，风险治理的代价将成倍上升”。李雨航强调，“AI STR系列标准正是试图在这一临界点前建立清晰、可执行的安全标准和测评、认证体系，将伦理与责任嵌入AI的全生命周期之中，从而确保技术发展服务于人类的长期利益”。
李雨航院士讲话
据介绍，AI STR标准工作组汇聚了亚、欧、美多地专家，既具备国际代表性，又融入东方治理智慧。与其他国际标准不同，AI STR不仅关注风险识别和风险分级，更提供全流程管理方案——从数据治理到模型落地，配套具体测试工具和认证流程，助力企业提升AI应用的安全性与可信度。目前，部分标准的测评与认证已在金融、医疗等领域落地应用。
AI STR 框架
“标准发布只是起点。”李雨航透露，WDTA下一步将重点推进基于AI STR标准的测评认证在亚太地区落地实施。作为贡献并遵从联合国《全球数字契约》的数字技术标准制定与认证机构，WDTA将持续完善AI治理全球框架，为全球人工智能健康发展提供重要支撑。
声明：本文来自WDTA世数院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
