Agent 安全的核心,不是让模型永远不犯错,而是让系统在模型犯错时仍然守住边界。
中小企业非常需要 AI 提升效率,但又很难真正管理 AI 带来的安全风险。
当 Agent 开始阅读文档、相信文档、按照文档行动,文档本身就成了安全边界。
美国网络司令部通过“稳健基础设施”计划全面支撑网络空间攻防作战。
地球系统数据平台体系发展建设方案出台,到2035年地球系统数据应用场景深度融入数字中国建设。
给出了人工智能应用伦理安全理念与原则,明确了人工智能应用开发、服务提供和应用使用等安全指引。
AI正在压缩攻防时间窗口。
DEVCORE 团队获得50.5的积分和50.5万美元的赏金,以绝对优势获得本届大赛的“破解之王 (Master of Pwn)”称号。
安全产品的用户正从“人”变为“AI”。
其数据规模庞大且极具敏感性,令人担忧。
本文从发展态势出发,梳理智算中心跨域训练、边缘推理与任播分发、AI驱动路由运维、路由安全协同四大典型场景如何重塑域间路由的技术路径,并从技术、运维、安全、治理四个...
兼顾创新与安全:美国人工智能行政命令草案提出建立前沿AI安全部署框架。
规范公安机关办理刑事案件、行政案件电子数据取证工作,确保电子数据取证质量,保护公民、组织合法权益,提高执法办案效能。
Verizon《2026年数据泄露调查报告》指出,漏洞利用已超过凭证滥用,成为最主要的数据泄露路径;与此同时,AI正在加速攻击活动,补丁修复延迟问题恶化,勒索软件和第三方相...
美网络司令部与国家安全局联合组建人工智能特遣部队。
老领导怎么看英国的政府AI应用工作?
输入“think”等字符触发返回异常内容,属于特殊字符引发的模型幻觉,不涉及安全问题或隐私泄露。
美国多个州的加油站油罐监测系统遭未知黑客入侵,部分还被篡改了显示屏读数,引发了美国官员和专家的安全担忧;有官员称,由于攻击者留下的证据有限,可能无法最终确定责任...
商用密码标准研究院有关负责同志介绍了新一代商用密码算法征集工作的最新进展与技术要求,对算法征集过程中普遍关心的的典型问题进行了解释说明,对即将开展的形式审查与评...
AI 检测到的漏洞本质上就不可能是秘密。
微信公众号