系统性揭示并量化了persona prompt在大语言模型安全对抗中的关键作用,提出了创新性的基于遗传算法的自动进化框架,实现对高效攻击型persona prompt的自动发现与优化。
近年来,网络攻击手段层出不穷,对公民个人信息安全和国家秘密安全造成威胁。作为网络空间的使用者、网络安全的维护者,每个公民都应自觉提高警惕,多一分留心,少一分忧心...
攻击者通过第三方服务商的香奈儿客户数据库发起入侵。这次事件仅影响美国地区客户,泄露信息包括:姓名、邮箱、邮寄地址与电话号码等有限的联系方式,未涉及信用卡、账户密...
本研究将以此事件为切入点,探讨AI大模型相关的新型安全事件,分析其攻击面和技术手段,并评估其潜在影响。
本文的研究为理解和防御 LLM 越狱提供了新的视角,也提醒业界亟需更加透明且强健的防御机制,以提升 AI 安全与伦理的底线保障。
网络攻击致使俄罗斯最大的两家连锁药房支付系统中断,全国可能数百上千家药店被迫停业,药品流通受到扰乱。
现有的方法对大语言模型(LLM)「越狱」攻击评估存在误判和不一致问题。港科大团队提出了GuidedBench评估框架,通过为每个有害问题制定详细评分指南,显著降低了误判率,揭...
选取2起典型事件予以公布,为重要行业领域提供安全预警。
MirageFlow通过动态分配中继集群的共享资源,显著提升Tor带宽膨胀攻击效率。C-MirageFlow和D-MirageFlow分别实现近n倍和n×N/2倍膨胀,理论证明仅需10台服务器即可控制Tor网...
俄航当日执飞的260个航班,有54个被取消,其他继续执飞的也有许多出现延误;亲乌黑客组织声称对此负责,表示经过一年的渗透行动已深度侵入俄航网络,摧毁了7000台服务器,...
美国网络司令部强化网络攻防作战的基础设施开发。
高乐氏指责供应商完全忽视了服务台操作安全流程,让攻击者冒充员工屡屡成功重置账号访问权限,导致发生严重网络攻击事件,供应商回应否认了存在失职行为。
德国慈善机构救济世界饥饿组织遭遇勒索软件攻击,大量用户个人数据泄露。
若客户端遇到连接错误时会主动尝试用更低版本的 TLS,可能会给攻击者带来可乘之机。
经过分析,这并不是传统意义上的“绕过FIDO”,而是一次“FIDO降级攻击”,背后逻辑其实并不复杂。
在本文中,我们研究了当前对抗攻击方法的局限性,特别是它们在应用于大型语言模型(LLMs)时的可迁移性和效率问题。
UNFI因此次网络攻击直接损失约2000万美元(约合人民币1.43亿元),公司向第三方网络安全、法律及治理专家支付了500万美元(约合人民币3588万元)费用,此次攻击带来的销售...
可能引发缓存投毒与拒绝服务攻击,危及 DNS 基础设施安全。
虽然当今主流大模型已经逐步采用各种防护措施来对抗快速注入和越狱攻击,但是“回音室攻击”都能有效的让大模型产生有害的内容,比如,色情、恐怖暴力和歧视等内容。
俄罗斯 WineLab 的 2000 余家门店因母公司诺瓦贝夫集团遭勒索软件攻击停业三天,收银及在线服务中断。公司拒付赎金,称无客户数据泄露,预计日损失 2-3 亿卢布。这是俄大型...
微信公众号