AI要变得安全,就需要加速。我希望他们获得更多算力,但把它分配给评估和对齐。
2025年以来,美国太空军聚焦“向战转型”加速建设步伐,从力量重塑、理论更新、装备建设、演习演训、太空合作等方向全面发力、成果显著。
网络靶场正在重演兰利式错误。
新美国安全中心发布报告认为,面对AGI未来的高度不确定性,政策应提高发展可见度并保留治理选择。
苹果尚未披露具体实施机制、适用系统版本和上线时间,也没有宣布禁止 Agent 使用这项权限。但这条公告释放了一个清晰信号:当 AI 从回答问题走向代人行动,系统需要重新确...
护栏真的理解了 Prompt 里的攻击意图吗?
对 Ad Hoc 分发机制的滥用已经逐步形成了一条完整的灰色产业链,涵盖开发者证书倒卖、签名工具、应用仓库和推广分发等多个环节。最终流向用户的,往往是“VIP版”“去广告版”...
报告建议社会在保持技术竞争力的同时,建立独立审计、公私协同、化生风险评估和法治监督机制。
教科网安全建设的重心正在向技术之外延伸。
CNCERT监测发现该团伙共控制境内肉鸡达8708个。其中,单日上线数量峰值2361个。
高手过招,不一定非要挡住每一剑。
大国博弈正从陆海空天网延伸至“第六域”——认知域。北约在美国主导下,率先将认知战上升为联盟战略,构建起“统筹—执行—科研”三级组织架构,并围绕信息环境、叙事结构、传播...
大型平台监管的五重面相。
美军自主作战的下一个十年与谁在定义AI战争的规则。
既要用 AI 来分析 AI 时代的攻击,也要防止这套分析系统本身变成新的被攻击对象。
攻击者可通过注入双引号/单引号实现类型检查绕过。
该举措标志着美军正推动AI从作战应用领域进一步延伸至软件工程体系,通过缩短软件迭代周期和提高开发效率,加快数字能力向作战部队部署。
智能体具备高度自主决策能力与环境交互能力,容易产生用户意图偏离、人类监管绕过、环境漏洞利用等新型行为漏洞与安全威胁,在特定场景下可能转化为对物理世界与数字秩序的...
security-audit-skill是一套专为编码代理打造的技能框架,能够直接将普通AI编码助手升级为标准化、专业化的全自动安全审计员。
别只问“模型测了吗”,还要问一句“裁判测了吗”。
微信公众号