DeepSeek无法抵御AI安全红队的提示工程攻击,被越狱后可用于非法用途。
大模型软件在全国各省都有一定数量的公网暴露。其中,北京、浙江、上海、广东等沿海或经济发达省份的暴露数量明显较多,而中西部地区相对较少。
归纳总结LLM面临的主要安全风险,介绍LLM攻击性测试方法,并通过案例分享展示LLM攻击性测试方法的实践效果。
本报告深入剖析了身份攻击面,揭示了威胁行为者如何利用身份弱点,以及企业必须采取哪些措施来防御这些弱点。
研究人员发现,通过在AI编程助手的规则文件中植入不良内容,来诱导Cursor或GitHub Copilot生成不安全的代码,攻击者可以通过在论坛或GitHub分享包含规则文件的代码库来实施...
安全从业者和安全主管的 AI安全防护产品与供应商指南。
在这场"AI VS. AI"的对抗中,企业必须积极拥抱AI技术,才能在不断变化的网络安全态势中保持优势。
聚焦卫星通信、太空域感知(SDA)、遥感监测、环境监控、定位导航授时(PNT)及太空物流六大商业航天领域,系统性分析了其需求增长对美太空作战效能、国防体系韧性及国际政...
不能把esp32芯片厂商隐藏的HCI指令直接归咎于后门,虽然有29个这样的指令。
通过对相关安全隐患的成因与影响进行深入分析,探讨现有的防护措施和技术手段,提出构建可信大语言模型智能体的建议,为相关研究和实践提供参考。
报告旨在为应对先进人工智能风险提供科学依据,促进国际社会对其的理解和管理。
最新报告显示,视频通话中的AI换脸攻击事件数量在2024年激增300%,有多家企业因此损失惨重,甚至包括安全意识培训厂商;实时人脸伪造技术快速普及,犯罪生态迅猛扩张,2024...
2024 年主要的网络威胁形势如何?2025 年又将走向何方?
通过分析生成式人工智能技术对我国网络安全产业的影响,并提出对策建议,对提升国家网络安全保障能力有重要意义。
从技术实现(零信任、OWASP、STRIDE)、战略规划(多云架构、威胁建模)到组织协作(合规推演、跨团队影响)三大维度,梳理安全架构师的核心能力要求及常见面试问题。
“银狐”组织通过捆绑正常的“ds大模型安装助手”程序,针对试图自动化部署DeepSeek的人员实施攻击并最终植入HackBrian RAT,并回连位于香港的C&C服务器。
本文探讨了多种机器学习算法在流量分类中的应用,旨在解决区分攻击流量和正常流量的二分类问题,提高网络安全防御能力。
这篇综述论文全面调研了近年来大模型安全相关的 390 篇研究工作,其中一级目录聚焦模型类型,二级目录区分攻击与防御类型,三级目录细化技术路线。
提出了包含实体、行为、基线和算法为核心4要素,以及数据采集、行为分析和处置响应为3步骤的框架系统,展示了如何将人工智能增强的用户实体行为分析构建智能化的数据安全审...
如果AI能够在模型自主能力下,控制电力、服务器及系统关闭能力,且当模型在实现连续复制力后,得以自主在不同的服务器中进行反复逃逸,则人类将永远无法找到并关闭被克隆的...
微信公众号