网络安全文化是任何健康的组织文化的一个重要方面。安全领导者可以合理运用系统化的社会影响方法,来培养符合安全规范的行为习惯,并构建一个惠及所有员工的组织网络安全文...
攻击者可以通过发送特制请求,利用此漏洞执行任意命令,完全控制系统,导致数据泄露、服务中断或系统损坏。
本文展示了作为评判器的LLM在面对提示注入攻击时的脆弱性,并提出了JudgeDeceiver,一个基于优化的框架,能够自动生成注入序列,从而操纵作为评判器的LLM的选择。
随着智能网联汽车功能的不断丰富,汽车已从传统机械装置演变为集成电子系统和软件的智能化终端。软件体系差异日益成为汽车价值差异化的关键,软件及服务能力逐渐成为汽车产...
通过本最佳实践,开发者能够在不同场景中使用不同的加固方法,从而有效地控制 LLM 行为并防止智能体面临的包括提示词泄露,有害内容输出,越狱等安全威胁。
2025年上半年,APP监管趋严,专项行动开展后已有超642个APP/SDK被通报。本文旨在梳理现行监管体系,明确APP运营者的合规“红线”,并提供适当的应对策略。
攻击者可以利用此漏洞触发命令注入,进而在受害者主机上执行任意系统命令,造成远程代码执行、数据泄露或系统破坏等严重后果。
报告定义了AI安全运营中心核心架构模型,评估了13家供应商,并提供了分析框架、技术基准和分阶段部署策略。
攻击者可以利用此漏洞注入任意命令到Git参数中,可能导致未授权的命令执行或其他安全问题。
金融支持新型工业化,七部门联合发文提出18项举措!
项目依托知识图谱、大数据和大语言模型等先进技术,以提升数据准确性、工作效率和跨部门协同为核心,致力于打造智能化的合规管理体系,以应对行业日益严格和快速变化的监管...
现有的方法对大语言模型(LLM)「越狱」攻击评估存在误判和不一致问题。港科大团队提出了GuidedBench评估框架,通过为每个有害问题制定详细评分指南,显著降低了误判率,揭...
PacketScope是一种基于eBPF的端侧协议栈通用防御框架,实现了协议栈内核级别的分组可视化、安全性分析与零延迟防御。
美参议院最新国防授权法案涉网络空间事宜条款概述。
为构建驱动下一代企业数据和 AI 应用所需的可靠、安全和可审计的数据管道提供基础。
让我们从电子数据取证的视角,深入了解一下这些变化对于取证有哪些影响。
民生银行开展了“大模型安全风险管理及应用评估能力体系建设”项目研究,旨在加强金融行业大模型应用的安全性和合规性保障,提升大模型安全风险应对能力。
围绕“加速AI创新、建设美国AI基础设施、领导国际AI外交与安全”三大支柱提出超过90项联邦政策行动。
LLM会被表面内容操纵,产生假阳性结果。
聚焦探讨大模型训练数据的特点、类型、风险、未来发展趋势等,提出了大模型训练数据全生命周期安全管理框架及技术防护对策、管理运营体系等,促进数据准备、模型构建、系统...
微信公众号