AI智能体越来越多地被称为人工智能创新的“第三次浪潮”,也带来了复杂的治理问题和网络安全挑战。
当AI智能体学会“欺骗”,我们如何自保?
虽然当今主流大模型已经逐步采用各种防护措施来对抗快速注入和越狱攻击,但是“回音室攻击”都能有效的让大模型产生有害的内容,比如,色情、恐怖暴力和歧视等内容。
俄罗斯 WineLab 的 2000 余家门店因母公司诺瓦贝夫集团遭勒索软件攻击停业三天,收银及在线服务中断。公司拒付赎金,称无客户数据泄露,预计日损失 2-3 亿卢布。这是俄大型...
无人机体积小、灵活性高、操作简便,在为物流配送、地理测绘等领域带来便利的同时,也潜藏着巨大的安全隐患。
下文将概述七个正被安全领域创业者运用 AI 前沿技术重塑的细分方向。
AI+审计变革加速!
“GPUHammer”攻击可通过诱发GPU显存中的比特翻转(bit flip)现象,实现对AI模型等关键数据的破坏性篡改。
研究发现,生成式AI在漏洞研究和漏洞利用开发方面表现出了快速进步的趋势,但目前综合表现仍不尽如人意,许多威胁行为者对将AI工具用于此类任务仍持怀疑态度;攻击者目前仍...
网络安全专业研究生们科研过程中面临竞争压力大、创新点难找等问题及挑战,如何规划适合自己的学习路径?在热门研究方向中锚定自己的创新坐标,挖掘创新点?
美国网络司令部加强“统一平台”和“跨域解决方案”项目建设。
研究者发现,AI应用于网络犯罪(例如窃取加密货币)时,投资回报率高得惊人。
系统梳理了社会网络安全领域的攻击检测技术、现有解决方案及未来研究方向。
在美国政府和媒体大肆宣扬网络安全威胁日益严峻的同时,特朗普却计划大幅削减(民用)网络安全预算。
AI正成为美军科技战略的核心支柱,不仅重塑作战模式,更深刻影响科研范式与产业结构,为全球军用AI发展提供了重要风向标。
当前金融业数据安全建设从治理体系、数据分类分级、数据全生命周期安全保护、安全风险防范等方面着手,稳步推进数据安全合规建设工作。
报告深度剖析了云上人工智能安全领域的发展趋势与核心挑战,系统性探讨了前沿技术在保障数据隐私、模型安全及云基础设施防护中的应用路径,推动关键技术创新与安全治理机制...
它将一项古老的法律程序,针对现代网络犯罪的特点进行了极具创造性的战略应用。
去年底,中国信通院发布“2024人工智能产业十大关键词”,对行业趋势进行深刻剖析与预测。如今我们再度审视,那些前瞻性的判断已在现实中逐步落地生根……
文章在充分总结已有成绩的基础上,全面剖析了LLMs渗透测试应用面临的可靠性、安全伦理、运维成本、隐私与主权等关键障碍,并在结论中提出了针对未来研究发展的方向与建议。
微信公众号