与传统生成式AI聊天系统相比,AI智能体风险重心从回答是否准确、内容是否适当,扩展到上下文归属是否正确、状态写入是否可信、工具调用是否越权、外部执行是否可控等问题。
本文将结合跨国企业的业务模式与组织架构特征,探讨其在开展重要数据识别和保护工作过程中所面临的现实挑战,提出针对性的解决方案,供相关企业参考。
“十五五”时期是我国统筹发展和安全、建设网络强国的关键阶段。面对日益复杂的网络威胁态势与技术创新需求,网络安全人才必须兼具技术创新赋能能力与实战化安全防护能力,成...
个人信息处理无“小事”,筑牢安全保护“防火墙”。
技能作为智能体与外部世界交互的核心接口,也是相关安全风险的主要载体与放大器。因此,深入研究智能体技能所面临的安全威胁及其防护机制,对于有效化解新兴技术应用带来的...
澳洲制糖巨头Mackay Sugar遭受网络攻击,旗下两家大型糖厂被迫停产,甘蔗收割作业全面中断。
提示词一错,Fable变Opus。
人工智能应用安全指引 教育行业、人工智能应用安全指引 卫生健康。
本月发布!
本文批判性梳理当前主流研究范式,并提出一个“技术—政治融合”归因框架,旨在推动网络攻击归因从相关性匹配向可审计、可解释、可量化不确定性的因果推理跃迁。
此次支付赎金的是国际顶级律所威嘉,不过并非所有律所都会选择支付,如4月众达律所据称未选择支付;FBI多次发布警告称,网络威胁组织Silent Ransom Group持续升级战术攻击...
住宅代理已经成为当前互联网面临的最大安全挑战。针对 Qurium 基础设施的数十次攻击都源自住宅代理提供商。
正如一线实战人员的直观感受——这些Skill显得“大而全,但很多只是简单的功能”。深入剖析其实现逻辑,这种“肤浅感”是当前AI Agent范式与该项目静态架构带来的必然结果。
提示注入不是一个单点问题,而是一组绕过机制完全不同的攻击集合。
面向社会征集测试产品,并诚邀高水平白帽子报名参与测试。
Anthropic推出新一代前沿大模型Mythos预览版,网络安全能力尤其突出,能大规模自主发现并利用所有主流操作系统和浏览器的零日漏洞,颠覆了传统的补丁防御模式;Anthropic为...
能读懂≠防得住。
不能一边强调AI能快速获取可靠信息,另一边要求用户不要相信。
中央网信办发布关于30款App个人信息收集使用问题的通报。
Anthropic公司宣布推出最新AI模型Fable 5和Mythos 5。
微信公众号