Agent 安全的核心,不是让模型永远不犯错,而是让系统在模型犯错时仍然守住边界。
兼顾创新与安全:美国人工智能行政命令草案提出建立前沿AI安全部署框架。
你相信 AGI 很快到来,和你相信 LLM 已经撞墙,会得到完全不同的风险地图。你相信前沿模型最重要,和你相信旧模型的扩散更重要,也会得到完全不同的产品和治理重点。
美网络司令部着力将JCC2系统打造为统一网络指挥控制中枢。
本文提出的多智能体桩代码生成系统代表了将 LLM 推理与程序分析深度融合的一次重要探索。
美国网络司令部通过“稳健基础设施”计划全面支撑网络空间攻防作战。
安全内参此前报道了一款神秘网络武器Fast16,它可以篡改精密计算结果,似乎意图破坏对手国家科技研发,日前多家机构针对它有了进一步分析,这很大可能是针对伊朗核项目的定...
该研究从 GitHub 的 2,428 个 Python-C 与 1,757 个 Java-C 仓库、累计 886,526 个commit中进行筛选与采样,最终人工确认并精细分析了400 个真实 CLBs(200 个 Python-C +...
其数据规模庞大且极具敏感性,令人担忧。
本文分析当前AI开源供应链攻击的新趋势与深层风险,提出构建“源头可溯、过程可控、风险可知”的全链路安全防御体系建议,为企业应对AI供应链威胁提供参考。
它们的表现明显超出了此前两条翻倍趋势线。目前还不清楚,这究竟意味着一种新的、更快的增长趋势已经出现,还是只是一次短期跃升。
英国监管单位警告称,该机构内部安全控制措施很不成熟,导致攻击者曾在内网潜伏达20个月,试图大规模传播勒索软件,并窃取了超60万名用户数据。
攻击者通过漏洞可获取环境变量、API密钥、系统提示和并发用户的对话数据。Ollama 0.17.1之前版本均受此漏洞影响。
当 Agent 开始阅读文档、相信文档、按照文档行动,文档本身就成了安全边界。
美国网络司令部2027财年进攻性网络能力建设概览。
人工智能与国际贸易结算业务深度融合,打破传统个人信息安全防护边界,算法黑箱、数据投毒、跨境监管规则冲突、内部操作疏漏、第三方供应链漏洞等新型风险与传统风险相互交...
OpenAI两名员工的设备因供应链攻击而受到影响,部分公司代码仓库的密钥、证书等敏感信息泄露,攻击者或可进一步窃取信息,或伪造ChatGPT、Codex官方客户端实施二次攻击等;...
智能体推动高校从“工具应用”走向“能力开放”与“多智能体协同”。
LayerX开发的安全平台能够实时监控并控制用户在浏览器、应用程序及集成开发环境(IDE)中的操作行为及代理活动。
报告以务实的视角剖析中美AI竞争格局、现有国际机制的短板,并提出一套兼顾风险管控与战略弹性的合作路径。
微信公众号