Anthropic公司协助美国家安全局利用定制Mythos模型开展网络攻击活动。
当 Agentic AI 让高逼真欺骗可以规模化生产,安全的核心问题就不再是“如何识别谁是真的”,而是“如何限制一次交互能释放多少价值”。
美国白宫管理和预算办公室发布新备忘录,强调确保高效的日志记录与网络可见性以防御网络威胁。
当前网络安全有三个核心问题比较难解决, 分别是计算层的逻辑一致性、网络层的攻击行为识别和阻断、数据层的全生命周期安全管理.
《工作要点》部署了6个方面15项重点任务。
解读 Anthropic《Zero Trust for AI Agents》。
本地低权限用户可构造伪造 cifs.spnego 密钥描述发起 request_key 调用,触发 root 权限 cifs.upcall,通过命名空间切换与 NSS 模块加载实现 root 代码执行,获取系统最高...
攻击者可利用该漏洞,通过构造特制的恶意序列化数据流绕过安全策略限制,加载被禁止的危险类、函数或模块属性,从而实现远程代码执行、数据窃取或系统接管。
这些漏洞覆盖了企业网络边缘设备、办公软件、开源工具以及 AI 平台等多个领域,反映出当前网络威胁的最新演变趋势。
一则反映监管如何实质审查DPIA的参考案例。
当前“AI中转”市场鱼龙混杂,部分“AI中转站”运营资质缺失、安全防护薄弱,用户隐私泄露与数据倒卖问题时有发生,数据安全风险不容忽视。
特朗普政府行政命令要求对顶级AI模型进行安全风险审查。
行动风险更需重视。
当 AI 不再只是回答问题,而是开始执行任务,我们需要的不只是“允许/拒绝”,而是一套能够解释价值冲突的伦理坐标系。
数据安全面临的风险与日俱增,需要引起我们的高度重视。
随着AI越来越强,OpenAI准备如何管理风险,以及如何满足未来越来越严格的监管要求。
约600万客户的个人信息遭泄露,涉及姓名、地址、电子邮箱、电话号码、出生日期、地理位置、邮轮预定记录、驾驶证号码或护照号码等;据估算,近年乘坐过嘉年华旗下品牌邮轮...
文章建议,应构建高效的人机协同工作模式,由人工智能工具负责情报的筛选与关联分析,同时将重大决策的最终判断权始终保留在人类手中。
最新研究报告显示,63.6%的AI供应商未在客户协议(数据处理部分)中披露第三方AI分包处理方,这意味着采购他们服务的客户,企业数据可能在不知情的情况下暴露给从未知晓的...
最先进的技术能力只向少数人开放,技术差距也在成为一种安全风险。
微信公众号