只需要一枚硬币大的 ESP32 蓝牙模块,就能让完全离线的设备悄无声息地把数据传到千里之外,全程不需要设备自身接入任何网络。
真正可落地的安全护栏,不是单点模型能力,而是成本、误伤、鲁棒性和工程基础设施之间的系统设计。
AI Coding 的安全边界,已经从代码内容扩展到了依赖选择、包安装和构建执行。
数据库 Agent 必须把模型输出当成不可信代码。
在网络安全的攻防对抗里,终端侧的较量始终是最前线的战场。红队成员想在目标主机上站稳脚跟,首先要过的就是 EDR (终端检测与响应系统) 这一关。
目前项目已经实现了四款主流厂商的模块,分别是 SentinelOne、Cortex XDR、CrowdStrike 与 Sophos。每个模块都加载厂商原生的检测资源运行,用户还能在引擎运行时通过 IPC...
模型只占一半功劳。
AI Coding 上线越深,代码上下文防火墙就越重要。
OpenAnt 给出了一个非常具体的答案:用 LLM 在真实大型仓库里挖漏洞,是可行的、可扩展的、并且可以在合理成本内闭环验证的。
提出了一套针对自动化证书管理研究的评价体系,涵盖功能性、安全性、可用性和性能4个维度。
在截图出站之前,先把隐私风险压下来,同时尽量保住任务可用性。
本文提出了 PentestEval,一个面向 LLM 渗透测试能力评估的模块化、阶段级的评测基准。
现有隐私评测大多关注 Agent 的最终回复或对外动作,却忽略了一个更早、更隐蔽的阶段——敏感数据第一次进入 Agent 上下文的阶段。
Agent 安全正在从“单句内容审核”走向“多轮执行轨迹治理”。
为统一「理解—生成」模型研究提供新的思路。
RAG 安全的核心,就是控制模型看见什么、引用什么、相信什么。
跑分依然有用。
恶意 Skill 的恶意性通常不在某一个文件、某一段代码、某一句 prompt 里,而在各组成部分之间的关系里。
Agent 系统里的中介,也应该逐步变成可审计、可验证、最小泄露的安全机制。
检测到风险,不等于阻止动作。
微信公众号