本文将探讨大模型技术对网络安全生态的关键影响,并以此聚焦网络安全人才培养所面临的机遇与挑战,剖析大模型对网络安全人才能力结构与成长机制的深远影响,最终构建适配的...
报告聚焦谁能从中受益、谁将承担风险,以及人工智能如何通过人、经济和治理三大渠道加剧不平等。
人工智能应用安全指引 总则、人工智能应用安全指引 广播电视和网络视听、用户使用人工智能安全指南、人工智能训练数据清洗安全指南。
为系统防范相关风险,并落实国家在人工智能领域的监管要求,邮储银行结合自身实践,构建了覆盖人工智能应用全生命周期的安全管理体系。
本研究提出了一种名为“生成利用攻击”(generation exploitation attack)的极其简单的方法,旨在越狱LLMs的对齐,特别是针对那些在发布前经过安全微调的开源模型。
攻击者可以利用此漏洞执行任意shell命令,获取用户权限,进而控制整个系统。
全面覆盖知识图谱增强大模型、大模型增强知识图谱、图检索增强生成、知识图谱与大模型协同等多元融合类型,为行业实践提供丰富参考。
近期,国家安全机关查获多起违规使用涉密地图的典型案件。
攻击者可能窃取了患者的姓名、地址、出生日期、医疗信息、健康保险信息等。
该模型的提出为电信运营商提升其基础网络与电信业务抗量子攻击能力提供了有力支撑。
美国防部通过集成商采购“套娃式”零信任网络安全系统。
企业必须做AI,用户不买单。
本文梳理LLMs在隐私保护方面的合规性应用情况;同时分析针对LLMs隐私的典型攻击及防御手段,并从“数据—训练—推理”全生命周期角度探讨了提升LLMs安全性的举措,指出未来需着...
“隔空投送”可能被不法分子和别有用心之人盯上,给个人信息和国家安全带来风险隐患。
工业互联网平台是海量数据汇聚、模型沉淀和应用开发的关键载体,是工业要素资源泛在连接、弹性供给和高效配置的重要枢纽,是支撑产业智能化、绿色化、融合化发展的战略性基...
通过构造恶意的 XML 数据并发送至受影响的 Apache Struts 应用,触发 XML 外部实体注入,进而实现数据泄露、SSRF、拒绝服务等攻击。
Palo Alto认为,保障氛围编程安全应落实六大原则:职责分离、人在回路、输入/输出验证、强制采用安全的辅助模型、最小智能体权限、防御性技术控制。
旨在堵住现行美国出口管制体系中的关键漏洞——即外国对手实体通过云计算服务,从境外远程调用受控的美国高端技术产品,尤其是AI芯片。
“灰色地带”网络行动兴起为国家间斗争常规手段和核心策略。
根据SEC 文件显示,Fortinet 与 Palo Alto Networks 的产品毛利率已开始下降。
微信公众号