报告界定了人工智能失控(LOC)的定义及其潜在场景,并针对性地提出了加强预防和应对措施的建议。
报告客观分析了美国从倡导开放到逐步限制的政策转变动因,以及对全球经济和安全的深刻影响。
人工智能代理能够实现日常参谋任务的自动化,缩短决策时间,并打造更小、更具韧性的指挥所。它们可以精简参谋人员,同时提高其工作效率。
随着《数据法》2025年9月全面生效,车辆传感器、驾驶行为、生物特征等实时数据将被纳入用户“可主张权利”范围。OEM厂商却面临GDPR与《数据法》的规则冲突、用户同意复杂化及...
攻击者可以通过发送特制请求,利用此漏洞执行任意命令,完全控制系统,导致数据泄露、服务中断或系统损坏。
这份联合指南《OT网络安全基础:资产清单指南(针对所有者和运营商)》是OT所有者和运营商在日益复杂的网络威胁环境中加强OT环境网络安全态势的综合蓝图。
用来保护以色列人民的大数据AI监控系统的设计者,居然用这套系统来网罗性侵儿童,更可怕的是,特朗普把他释放了。
主要攻击目标为Windows用户,可能导致敏感信息泄露、系统受控等风险。
这也泄密?嗯!
本文展示了作为评判器的LLM在面对提示注入攻击时的脆弱性,并提出了JudgeDeceiver,一个基于优化的框架,能够自动生成注入序列,从而操纵作为评判器的LLM的选择。
随着智能网联汽车功能的不断丰富,汽车已从传统机械装置演变为集成电子系统和软件的智能化终端。软件体系差异日益成为汽车价值差异化的关键,软件及服务能力逐渐成为汽车产...
通过本最佳实践,开发者能够在不同场景中使用不同的加固方法,从而有效地控制 LLM 行为并防止智能体面临的包括提示词泄露,有害内容输出,越狱等安全威胁。
黑客入侵莫斯科警报系统,在公共交通上播放“核武器袭击”警报,导致乘客纷纷逃离,目前尚不清楚有多少辆公交车受到影响;据当地媒体报道,黑客成功入侵了商业运营商OOO Tra...
围绕通用人工智能与超智能的发展前景、技术瓶颈及对齐问题展开探讨,指出当前人工智能模型在长期规划、因果推理等方面的局限性,并警示递归式自我改进可能带来的失控风险。
其引发的大规模网络服务中断,再次敲响了DNS安全警钟。
G7峰会《AI促进繁荣宣言》撕去“安全”标签,宣告西方政策重大转向:从防范AI失控风险,全面倒向经济竞速赛道。地缘博弈、千亿产业游说、军备焦虑与ChatGPT成功叙事,合力构...
伊朗网络行动已从孤立的报复性攻击转变为多维度、协调一致的战略行动,显示其网络认知战战略演进进入了新阶段,也为未来网络认知战的发展提供了借鉴。
本文旨在系统梳理欧盟《人工智能法案》的最新实施动态,并介绍关键指南文件的核心内容。通过分析法案的落地进程,我们希望帮助企业更好地把握欧盟人工智能监管方向和实施要...
结合通用大模型评估维度和网络安全领域的特殊性,尝试探讨针对网络安全垂直领域大模型应用的测试指标体系的构建。
泄露数据包含员工设备轨迹、工控系统漏洞详情及安防警报,使黑客可精准设计渗透电网核心、甚至物理破坏关键设施的方案。
微信公众号