通过构造包含管理员专属路由的 API 密钥,绕过用户本身的角色限制,将普通内部用户(internal_user)权限提升至管理员(proxy_admin)。
长期记忆、技能系统、MCP 工具链、文件系统和调度器,都会成为新的安全边界。
Anthropic公布了Project Glasswing的首月战报。
你相信 AGI 很快到来,和你相信 LLM 已经撞墙,会得到完全不同的风险地图。你相信前沿模型最重要,和你相信旧模型的扩散更重要,也会得到完全不同的产品和治理重点。
攻击者可以利用该漏洞,通过构造特制的 WebSocket 升级请求绕过网络边界防护,实现内网探测、敏感信息窃取以及云环境元数据服务访问等恶意行为。
美国网络司令部2027财年JCWA集成与创新项目概览。
1套“两区”管理办法和9个领域负面清单。
坚持安全可控,将智能体安全、可靠、可信作为发展的底线要求,贯穿智能体技术研发、应用部署与推广的全过程,切实防范系统性风险。
已实施优化改进措施63项,承诺遵守算法要求139项,限期推进125项,在提升算法透明度、公平性、合理性方面取得初步成效。
法律架构支撑技术创新。
概念秩序的重构尝试。
成功利用后可读取、篡改代理数据库数据,获取代理权限及托管的各类凭证密钥,实现未授权访问与权限提升。
推动人工智能模型与数据资源协同互促、同频共振。
建议企业未雨绸缪,提前规划CSA2.0提案一旦通过后的应对预案。在欧拥有重大投资或长期商业安排的企业,应在专业法律顾问的协助下提前研究潜在的法律救济及应对方案,梳理业...
筑牢“人工智能+教育”安全屏障。
该攻击同时针对 npm、PyPI 和 Crates.io 三大主流软件包仓库,发布超过 34 个恶意包 及 384+ 个关联版本,专门针对加密货币、DeFi、Solana 生态和 AI 开发社区的开发者群体...
美网络司令部着力将JCC2系统打造为统一网络指挥控制中枢。
安全内参此前报道了一款神秘网络武器Fast16,它可以篡改精密计算结果,似乎意图破坏对手国家科技研发,日前多家机构针对它有了进一步分析,这很大可能是针对伊朗核项目的定...
SafeHarness 框架是一种将防御机制直接编织进智能体 Harness 运行生命周期的安全架构,它不仅能从根本上解决现有安全工具的结构性缺陷,还能在面对复合攻击时实现系统级的...
聚焦训练与推理两个阶段的泄露风险开展大模型隐私保护研究,为构建全链路隐私保护体系提供解决方案,保障数据处理的合规性与安全性。
微信公众号