不是用AI画个概念图,是真的用自然语言跟模型聊出来一套完整设计,3D打印出来,装上金属击针和枪管,然后在后院里实弹射击。
对 Agent 的安全约束,不应只停留在“它应该怎样思考”,还必须落实到“它最终能够做什么”。
将ChatGPT的未成年人安全、个人信息处理及产品宣传纳入州消费者保护执法。
这次大概有1.4%的Console用户不幸躺枪,他们放在workspace里的「御三家」(OpenAI、Claude、Gemini)API Key直接裸奔。
当我们无法直接阅读 Agent 之间传递的信息时,应该如何判断这些信息是否正在改变模型的安全行为?
研究人员首次公开复杂商业间谍软件通过网络广告传播的技术证据,这类基于零点击攻击*定向广告的攻击手法,堪称网络洲际导弹,攻击管道和载荷随时就绪,对于任何目标都是噩...
此次修订公开征求意见涉及人工智能、生物医药、光伏三个领域40项技术。
随着一起非法买卖公民个人信息案件的审理,一条隐藏在招聘平台背后的“简历开盒”黑色产业链浮出水面。谁在为“开盒”后的信息买单?
攻击者可伪造诊断工作流事件,使以LocalSystem权限运行的whesvc服务加载并执行攻击者可控的Lua模块,从而以SYSTEM权限在目标主机上执行任意代码、完全控制主机。
工控安全迎来标志性事件,一项模拟典型工控环境(存在已知漏洞)的安全测试显示,多个前沿AI模型均能自主完成识别、检测、攻击、操纵等多类场景的工控系统攻击任务,实现劫...
教育考试院回应称“系英方单方面取消”,雅思IDP渠道已新增应急考位。
眼镜制造商、服务商不能简单地以用户行为为由逃避自身合规责任。
呼吁建立国际机构,监督具备网络操作能力的先进人工智能系统的安全隔离标准与事件报告。
终极,活下去!
世界五百强、荷兰食品零售集团Ahold Delhaize遭受网络攻击,部分系统被迫关闭,导致旗下欧美多个国家8个零售品牌的网站出现故障,部分连锁超市还出现线上订单无法处理和配...
构建融合“技术防护”与“管理机制”的二位一体人工智能安全防护体系。
攻击者可借由 CI/CD 配置处理链路(包括无需认证即可到达的接口)在 GitLab 服务端进程(Puma/Sidekiq)中执行任意代码。
加快推动人工智能在水运领域创新应用。
未成年人网络保护,落地很难。
要在咱们的土地上造一座多密级的、分布式的网络靶场,墙该怎么砌,网该怎么织,先干什么后干什么,哪些坑一踩一个准。
微信公众号