现在讨论 Agent 安全,已经不能只盯着模型会不会说错话。
本文提出的多智能体桩代码生成系统代表了将 LLM 推理与程序分析深度融合的一次重要探索。
将分析报告转换为 STIX 的知识数据。
当 Agent 开始阅读文档、相信文档、按照文档行动,文档本身就成了安全边界。
该研究从 GitHub 的 2,428 个 Python-C 与 1,757 个 Java-C 仓库、累计 886,526 个commit中进行筛选与采样,最终人工确认并精细分析了400 个真实 CLBs(200 个 Python-C +...
数据智能体技术以自然语言为交互入口,可自主完成需求拆解、规划执行与洞察交付,将其引入可信数据空间,有望在安全合规的前提下,提升数据交付过程的智能性,最终实现数据...
AI正在压缩攻防时间窗口。
为什么大模型对齐了还是会被越狱?
当AI开始加速漏洞发现、代码分析和攻击验证,企业安全体系到底该怎么重建?
Hook 架构基石
当 Agent 开始替人访问数据、委托任务、合成结果,权限治理就不能再停留在一次 API 调用上。
Mythos在41个V8漏洞中拿下18个任意代码执行。
当模型已经给出安全回复,风险却仍然可能出现在“模型输出之后、工具执行之前”。
太震撼了,苹果花5年数十亿美元造出最强硬件安全防线MIE,三个黑客加一个AI,5天就把它打穿了!20亿台苹果设备的安全逻辑正在被改写,人类安全系统正迎来「奥本海默时刻」...
这篇论文的价值在于它聚焦了LLM集成应用中非常现实的安全问题,即间接提示注入攻击。
XBOW发布Mythos Preview评测。
它们的表现明显超出了此前两条翻倍趋势线。目前还不清楚,这究竟意味着一种新的、更快的增长趋势已经出现,还是只是一次短期跃升。
LLM 可以参与数据治理,但不能成为权限系统本身。
作者提出 VulKey,用一种"三级层次化抽象"把专家修复经验结构化为可复用的修复模式,再通过两阶段流水线指导 LLM 生成补丁。
前沿模型公司为什么都要抢 Cyber?
微信公众号