Agent 安全的核心,不是让模型永远不犯错,而是让系统在模型犯错时仍然守住边界。
你相信 AGI 很快到来,和你相信 LLM 已经撞墙,会得到完全不同的风险地图。你相信前沿模型最重要,和你相信旧模型的扩散更重要,也会得到完全不同的产品和治理重点。
攻击者可利用该漏洞,通过构造特定的文件路径参数,在无需认证的情况下以 root 权限读取服务器上任意文件。
美网络司令部与国家安全局联合组建人工智能特遣部队。
当 Agent 开始阅读文档、相信文档、按照文档行动,文档本身就成了安全边界。
黑客叫价5万美金还威胁免费泄露。
攻击者瞄上了GitHub Actions市场中的热门工作流项目——actions-cool/issues-helper(用于自动化Issue管理的开源Action)及其关联项目actions-cool/maintain-one-comment,通...
该研究从 GitHub 的 2,428 个 Python-C 与 1,757 个 Java-C 仓库、累计 886,526 个commit中进行筛选与采样,最终人工确认并精细分析了400 个真实 CLBs(200 个 Python-C +...
攻击者可以实现对页缓存的写入,从而在几乎所有主流Linux发行版上稳定提权。
攻击者可远程构造特殊 HTTP/2 帧请求触发内存破坏,造成服务拒绝服务。
前往其所谓总部实地调查时,却发现了一个耐人寻味的现实。那里根本没有 Polymarket 的踪迹。
攻击者通过漏洞可获取环境变量、API密钥、系统提示和并发用户的对话数据。Ollama 0.17.1之前版本均受此漏洞影响。
教育部同意设立网络空间安全学院;教育部办公厅印发《关于开展全国中小学生安全教育周活动的通知》,将网络安全等内容纳入活动内容…
兼顾创新与安全:美国人工智能行政命令草案提出建立前沿AI安全部署框架。
规范公安机关办理刑事案件、行政案件电子数据取证工作,确保电子数据取证质量,保护公民、组织合法权益,提高执法办案效能。
本文提出的多智能体桩代码生成系统代表了将 LLM 推理与程序分析深度融合的一次重要探索。
将分析报告转换为 STIX 的知识数据。
网速变慢,元凶竟是它!
如何构建有效的生成式人工智能治理体系,已成为法学理论与实践必须回应的时代命题。
该体系核心思路是为大模型嵌入一套资深安全专家的标准化工作流框架,让审计流程从“AI无序盲审”进化到“多智能体编排协同作战”。
微信公众号