Agent 安全的核心,不是让模型永远不犯错,而是让系统在模型犯错时仍然守住边界。
你相信 AGI 很快到来,和你相信 LLM 已经撞墙,会得到完全不同的风险地图。你相信前沿模型最重要,和你相信旧模型的扩散更重要,也会得到完全不同的产品和治理重点。
攻击者可利用该漏洞,通过构造特定的文件路径参数,在无需认证的情况下以 root 权限读取服务器上任意文件。
中小企业非常需要 AI 提升效率,但又很难真正管理 AI 带来的安全风险。
下注原本更像创业公司的事,成熟公司可以靠客户、渠道和执行慢慢优化。但 AI 正在改变客户、产品和商业模式,不下注也会变成一种风险。每家公司都得赌点什么。
黑客叫价5万美金还威胁免费泄露。
攻击者瞄上了GitHub Actions市场中的热门工作流项目——actions-cool/issues-helper(用于自动化Issue管理的开源Action)及其关联项目actions-cool/maintain-one-comment,通...
攻击者可以利用该漏洞,通过构造特制的 WebSocket 升级请求绕过网络边界防护,实现内网探测、敏感信息窃取以及云环境元数据服务访问等恶意行为。
广东自贸试验区和河套深圳园区内开展数据出境负面清单制定审批和使用管理等活动,适用本规定。
如何构建有效的生成式人工智能治理体系,已成为法学理论与实践必须回应的时代命题。
前往其所谓总部实地调查时,却发现了一个耐人寻味的现实。那里根本没有 Polymarket 的踪迹。
兼顾创新与安全:美国人工智能行政命令草案提出建立前沿AI安全部署框架。
TeamPCP篡改了数百个开源工具,通过勒索受害者获利,并在全球软件开发所依赖的整个生态系统中播下了新的不信任。
近日,国家计算机病毒应急处理中心和计算机病毒防治技术国家工程实验室依托国家计算机病毒协同分析平台捕获多个木马病毒恶意程序。经分析,发现这些木马病毒均为针对我国用...
老领导怎么看英国的政府AI应用工作?
将分析报告转换为 STIX 的知识数据。
美国网络司令部2027财年进攻性网络能力建设概览。
智能体推动高校从“工具应用”走向“能力开放”与“多智能体协同”。
Lovable、Vercel、Anthropic等多家知名AI公司近期均发生重大影响的数据泄露事件,前两家涉及大规模暴露/泄露用户数据,后者则是将明星产品的源代码公开暴露;上述几起事件...
深入推进人工智能与档案业务深度融合,形成可复制、可推广的经验。
微信公众号