2025年6月13日,广东省标准化协会发布团体标准《智能体任务执行安全要求》。这一团标的发布,标志着广东省在智能体产业安全管理方面迈出了重要一步,为智能体开发和运营主体提供了明确的行为准则,也为用户权益和数据安全提供了有力保障。

近年来,智能体技术迅速发展,成为人工智能产业的重要赛道。众多手机厂商如华为、荣耀、小米、OPPO、vivo等纷纷将手机助手升级为智能体,大模型企业也推出了多款智能体。然而,智能体的广泛应用也带来了数据安全、隐私保护和不正当竞争等隐患。部分智能体滥用“无障碍”权限,导致用户信息被窃取、资金被转移等风险高企,引起了社会的广泛关注。

为应对这些挑战,由北京邮电大学、中国联合通信集团股份有限公司、天翼安全科技有限公司、联想(北京)有限公司、北京数牍科技有限公司、广州虎牙科技有限公司、广东省标准化协会等单位,共同起草了《智能体任务执行安全要求》团体标准。该团标自发布之日起生效,适用于所有提供智能体开发和运营的主体。

该团标的核心内容包括:

禁止滥用无障碍服务:智能体不得利用无障碍权限或操作系统技术优势操作第三方App,必须通过标准化接口调用的方式协作。

双重授权原则:智能体在进行用户意图识别、通过第三方App执行任务时,应先通过第三方App授权,并在获得用户授权后执行。

公平公正原则:智能体的任务决策算法应公平、公正、透明,不得干扰用户选择。

用户权益保护:智能体通过麦克风、截屏、录屏、共享屏幕等权限获取数据资源时,不得侵害用户及其他主体的数据权益,第三方App有权拒绝不合理操作以保护用户权益。

专家组评审认为,该团标的制定将规范智能体的开发、运营与服务评估,可为智能体任务执行安全质量提供评估,有利于促进智能体任务执行安全服务的高质量市场供给,具有重要的经济、社会和生态效益。团标的实施将引导智能体开发、运营与服务企业提升安全服务意识,防止智能体在迭代发展过程中出现的滥用无障碍、共享屏幕等系统权限实现自动化任务执行从而造成用户数据被违规获取、数据泄露等现象发生,促进智能体通过API调用访问外部应用为用户提供个性化服务、及其生态的标准化建设、技术进步,推动智能体技术和产业高质量发展。

此次发布的团体标准《智能体任务执行安全要求》,不仅彰显了学术界与产业界的共识,也为智能体产业的安全合规发展提供了重要依据。

声明:本文来自广东省标准化协会,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。