Agent 安全的核心,不是让模型永远不犯错,而是让系统在模型犯错时仍然守住边界。
你相信 AGI 很快到来,和你相信 LLM 已经撞墙,会得到完全不同的风险地图。你相信前沿模型最重要,和你相信旧模型的扩散更重要,也会得到完全不同的产品和治理重点。
旨在为油气储运行业与工业互联网融合过程中的需求场景识别、应用模式打造、关键系统构建和组织实施方法提供参考借鉴。
攻击者可利用该漏洞,通过构造特定的文件路径参数,在无需认证的情况下以 root 权限读取服务器上任意文件。
TeamPCP篡改了数百个开源工具,通过勒索受害者获利,并在全球软件开发所依赖的整个生态系统中播下了新的不信任。
下注原本更像创业公司的事,成熟公司可以靠客户、渠道和执行慢慢优化。但 AI 正在改变客户、产品和商业模式,不下注也会变成一种风险。每家公司都得赌点什么。
当 Agent 开始阅读文档、相信文档、按照文档行动,文档本身就成了安全边界。
黑客叫价5万美金还威胁免费泄露。
AI正在压缩攻防时间窗口。
人工智能与国际贸易结算业务深度融合,打破传统个人信息安全防护边界,算法黑箱、数据投毒、跨境监管规则冲突、内部操作疏漏、第三方供应链漏洞等新型风险与传统风险相互交...
可完全控制目标主机。
微软于近期披露了一个影响广泛的高危零日漏洞CVE-2026-42897,该漏洞已被确认在野外被积极利用。
新的分析证实了这些目标应用,并揭示fast16是针对核武器设计中核心的腐败铀压缩模拟量身定制的。
攻击者通过漏洞可获取环境变量、API密钥、系统提示和并发用户的对话数据。Ollama 0.17.1之前版本均受此漏洞影响。
教育部同意设立网络空间安全学院;教育部办公厅印发《关于开展全国中小学生安全教育周活动的通知》,将网络安全等内容纳入活动内容…
兼顾创新与安全:美国人工智能行政命令草案提出建立前沿AI安全部署框架。
美网络司令部着力将JCC2系统打造为统一网络指挥控制中枢。
本文提出的多智能体桩代码生成系统代表了将 LLM 推理与程序分析深度融合的一次重要探索。
成功利用后可直接获取系统最高权限,也可触发内核空指针解引用导致系统蓝屏崩溃。
该体系核心思路是为大模型嵌入一套资深安全专家的标准化工作流框架,让审计流程从“AI无序盲审”进化到“多智能体编排协同作战”。
微信公众号