Anthropic在文件中披露了中国相关业务风险、芯片与模型出口限制、模型蒸馏和权重安全、AI安全制度,以及经营和公司治理情况。
安全训练应该从识别风险延伸到学习决策。
印度CERT发布紧急预警称,发生多起AI智能体未授权访问国内组织真实系统及机密数据的事件,AI工具使得网络攻击速度从数天缩短至数小时,各组织应尽快加强安全防护措施。
安全能力正在从外围的检测组件,逐渐进入 Agent 的任务规划、执行决策和能力管理体系。
又咋啦。。。
护栏真的理解了 Prompt 里的攻击意图吗?
英国人用AI生成的演员,突然开口说中文,主持人和嘉宾都傻了!
未来的大模型护栏,也许会越来越像操作系统安全。
谷歌Gemini首次突破测试环境并入侵三家公司,再次暴露了前沿AI领域的安全隔离难题;据悉,Gemini在入侵过程中,识别到目标偏移成了真实企业,随即主动停止操作,谷歌认为主...
最终通过主题中未受保护的 AJAX 接口下载并激活恶意插件,实现服务端任意代码执行。
不少用户担心自己的私密开发数据被盗用。
别只问“模型测了吗”,还要问一句“裁判测了吗”。
公安机关开展“净网—2026”专项行动取得阶段性成效。
俄罗斯总统签署总统令,首次授权国家可在紧急情况下接管(私营)关基设施,控制其进行集中保护;该政策主要针对当前紧迫的无人机威胁,也覆盖网络安全、运营安全、安防布控...
涉案男子王某甲伙同多名公安系统干警通过国家反诈大数据平台查询公民银行账户信息的冻结、止付情况。
2026年5月7日,安全研究机构 HiddenLayer 披露了一起针对 AI 开发社区的供应链投毒攻击事件。攻击者在 Hugging Face 平台创建恶意仓库 Open-OSS/privacy-filter,通过 typo...
上周披露的PHP2Shell漏洞让全球进入应急响应状态,此前已经出现大量攻击利用,但一直未有造成严重影响的案例;日前有研究员监测到可能是首个实现远程命令执行的攻击请求,...
随着地理信息技术的普及,“开放地图”平台逐渐走入公众视野,但其背后隐藏的国家安全风险却不容忽视。
深圳网警侦破非法破解无人机案件,依法严惩“黑飞”幕后推手。
中美开放模型的竞争局。
微信公众号