Agent安全真正需要判断的,不是某个动作看起来是否危险,而是:这个动作在当前上下文中,是否经过了完整、有效且持续的授权。
研究者不仅完整定义了stealth memory injection(隐形内存注入)攻击,还搭建了全周期评测基准 WHISPERBENCH,以及能一键生成攻击载荷的 MEMGHOST 框架,用详实的实验证明...
单个协议都没错,不代表组合后的 Agent 系统安全。真正的越权,往往发生在协议之间。
不要只防坏工具,也要防工具把自己说得过于正确。
Agent Skill 不应该只是开发者手里的配置文件,也不应该只是平台上的一个能力模块。
只需要一枚硬币大的 ESP32 蓝牙模块,就能让完全离线的设备悄无声息地把数据传到千里之外,全程不需要设备自身接入任何网络。
真正可落地的安全护栏,不是单点模型能力,而是成本、误伤、鲁棒性和工程基础设施之间的系统设计。
AI Coding 的安全边界,已经从代码内容扩展到了依赖选择、包安装和构建执行。
数据库 Agent 必须把模型输出当成不可信代码。
在网络安全的攻防对抗里,终端侧的较量始终是最前线的战场。红队成员想在目标主机上站稳脚跟,首先要过的就是 EDR (终端检测与响应系统) 这一关。
目前项目已经实现了四款主流厂商的模块,分别是 SentinelOne、Cortex XDR、CrowdStrike 与 Sophos。每个模块都加载厂商原生的检测资源运行,用户还能在引擎运行时通过 IPC...
模型只占一半功劳。
AI Coding 上线越深,代码上下文防火墙就越重要。
OpenAnt 给出了一个非常具体的答案:用 LLM 在真实大型仓库里挖漏洞,是可行的、可扩展的、并且可以在合理成本内闭环验证的。
提出了一套针对自动化证书管理研究的评价体系,涵盖功能性、安全性、可用性和性能4个维度。
在截图出站之前,先把隐私风险压下来,同时尽量保住任务可用性。
本文提出了 PentestEval,一个面向 LLM 渗透测试能力评估的模块化、阶段级的评测基准。
现有隐私评测大多关注 Agent 的最终回复或对外动作,却忽略了一个更早、更隐蔽的阶段——敏感数据第一次进入 Agent 上下文的阶段。
Agent 安全正在从“单句内容审核”走向“多轮执行轨迹治理”。
为统一「理解—生成」模型研究提供新的思路。
微信公众号