人提供意图,模型降低表达成本,系统执行约束。
美国网络司令部推动“统一平台”和“跨域解决方案”建议。
与传统生成式AI聊天系统相比,AI智能体风险重心从回答是否准确、内容是否适当,扩展到上下文归属是否正确、状态写入是否可信、工具调用是否越权、外部执行是否可控等问题。
在合适的人员手中,AI 不再仅仅是防御性工具,它已成为一个高度可扩展的漏洞发现引擎,即使在世界上最注重安全的组织机构中,也能发现严重漏洞。
对于美军而言,软件工厂不仅关系到CJADC2能否真正形成实战能力,也关系到其能否在高强度对抗环境下保持体系优势和战场主动权。
偷师、借道、换血、误删……折腾到最后,xAI成了给对手供电的人。
海外开发者 Richard Osgood 将普通 WiFi 智能灯泡改造成可离线共享重要文件的微型数字站点。只要灯泡通电,附近任何人都能通过 WiFi 访问其中存储的资料。
金融信息服务领域分类分级细则落地。
一个互联网社区给AI智能体上了一堂生动的公开课,深刻解释了为什么永远不要给AI信用卡权限和截止日期;一位用户给一个拥有AWS资源权限的智能体下达任务,要求限时接入某技...
检测到风险,不等于阻止动作。
Anthropic突发通知,Claude用户7月或将面临实名制「查户口」!从此,每次使用Claude,或许都要准备好身份证了。
企业是否真正建立了控制AI风险的能力?谁来做?怎么落地?
AI 写代码已经从一个新鲜功能,变成了很多开发者日常工作流的一部分。
在真实场景中,该方法相较公开报告平均提前112天标记出18个APT域名,实现了从被动响应到主动防御的转变。
澳洲制糖巨头Mackay Sugar遭受网络攻击,旗下两家大型糖厂被迫停产,甘蔗收割作业全面中断。
《概要》直面智能体高自主性带来的新型安全风险,构建了全流程、系统化的管理体系,可以作为智能体研发、部署与监管的重要参考。
影子 AI 之所以值得重视,是因为它不是一个边缘问题。它很可能已经存在于大多数企业里,只是没有被系统性命名。
Anthropic公司宣布推出最新AI模型Fable 5和Mythos 5。
开源软件供应链投毒越演越烈,引发了这次极其罕见的响应措施,据悉攻击或与TeamPCP投毒行动有关。
此次修订扩展了访问控制、网络分段、资产管理和供应链安全等核心要求,并与SP 800-171r3、SP 800-53r5及SP 800-160的相关内容保持深度衔接。
微信公众号