一个既无法可靠确认环境、又拥有系统级权限的 Agent,不可能仅靠更大的模型变得安全。移动 Agent 的安全边界,最终必须下沉到操作系统。
揭示了AI工具被滥用于网络攻击的新风险。
Agent安全真正需要判断的,不是某个动作看起来是否危险,而是:这个动作在当前上下文中,是否经过了完整、有效且持续的授权。
这不仅可能导致设备敏感配置信息、云环境元数据(如AWS/Azure元数据服务)泄露,还可用于扫描和攻击设备所在内网的其他系统,绕过网络边界防护。
未经授权的攻击者可利用漏洞,通过网络远程执行代码。微软更新公告称已发现漏洞在野利用情况。
提出安全治理协作、人工智能向善等八项行动。
从软件开发智能化转型面临的机遇、快速进展和挑战3个维度探讨人工智能技术对软件开发的变革与重塑,具体探讨了大模型在软件开发领域快速提升智能基础、软件工程全生命周期...
最近荷兰 SIDN 实验室的研究团队,系统梳理了这些小型服务器的全貌。
OpenAI透露,内部训练了一个专门挖掘大模型安全漏洞的模型GPT-Red,其攻击成功率远超红队专家;经其针对性强化,新一代前沿模型(GPT-5.6)防御效果改善惊人,可抵御多数针...
该4项标准征求意见稿面向社会公开征求意见。
据电信数据监测显示,伊朗运营商在美伊战争期间针对区域移动网络发起了多次SS7攻击,旨在定向追踪特定移动设备;知情人士称,伊朗不仅拥有移动网络访问追踪能力,还滥用商...
标志着美国人工智能安全治理从“自愿指南”正式迈入“强制性合规”阶段。
Alignment with Awakening呼吁培养必要的智慧和洞察力,而不只是让机器遵循原则工作。
特朗普政府“金鹰计划”以AI赋能网络安全漏洞发现与修复。
美国帕兰蒂尔公司开发的人工智能软件已经在今年1月日本“锋芒毕露”美日联合综合指挥所演习中实现首次应用。此外,自卫队也已经以“验证”为目的,引入该公司的人工智能软件。
最近网络安全厂商 ESET 的研究团队披露了一项潜藏多年的底层安全风险。
约书亚·鲁德画像。
随着人工智能(AI)技术的应用,软件供应链呈现出三大新特征,这些新特征重构了软件供应链的形态与边界,数据投毒、模型后门、提示注入等新型攻击频发,叠加传统供应链固有...
黑客全网扫描窃取AI配置与云权限。
德国老牌纺织企业ZEGO TVZ表示,3月遭网络攻击运营中断造成了巨大的财务损失,关闭公司成为唯一选择;近年来,企业因网络攻击造成的财务损失越来越大,陆续出现企业因网络...
微信公众号