本文通过剖析ISC这一新型AI高危内生缺陷的产生机理,结合其风险特征,提出ISC专项评测准入、推理全链路监测审...
从治理要求、用户任务和两条工作主线展开靶场能力,区分装备试验鉴定与人员训练演练。
Agent 长期记忆安全,不能只关注内容,还要关注身份。
Agent 安全不应该只依赖模型外部的检测和拦截,也应该成为模型自身能力建设的一部分。
从生命周期视角系统梳理通用智能体中的安全风险、攻击方法、评测基准与防御技术。
从数据怎么造、模型怎么训,到 Agent 怎么跑、评测怎么做、漏洞怎么修,全部收进同一个坐标系。
为 AI 安全研究提供了一种新的观察工具。
当我们向大模型发送一条恶意指令时,模型究竟是在什么时候意识到这条指令存在风险的?是看到某个敏感词之后?
从模型安全到执行安全,构建企业 AI Agent 的纵深防御体系。
论文的出发点只有一句:智能体只能从运行时反馈去推断目标状态,所以反馈可以被操纵。防守方控制着目标返回什...
本文梳理大模型应用风险变化,阐释 AI安全围栏的定位与价值,拆解输入拦截、输出净化、会话追踪、行业规则适...
国家网络靶场的胎心,出现在一份编号 DARPA-BAA-08-43 的文件里。
从保护模型指令,到保护 Agent 的决策依据。
把这三个案例和 AgentSnare 的做法对照着看,差别就很清楚了:静态工件是在环境里扔一个点,AgentSnare 是沿...
算法指纹、行为指纹、密码学身份、授权与责任关系。
全程不往USB数据线里塞一个字节,不做任何固件改造,靠充电状态、外设指示灯、一根贴在USB线上的天线,把密钥...
当AI安全智能体从「做题」走向「实战」,评测本身也亟需一场真实的战斗!
从 Skill 投毒到 Agent 自我进化。
生成式AI技术的持续突破推动安全智能体市场进入爆发式增长期,到2030年,中国网络安全相关AI Agent应用市场规...
LocalAlign 从输入侧与目标侧两个维度审视提示注入防御的泛化不足,并提出从攻击目标一侧高效构造对抗训练样...
微信公众号