系统性揭示并量化了persona prompt在大语言模型安全对抗中的关键作用,提出了创新性的基于遗传算法的自动进化框架,实现对高效攻击型persona prompt的自动发现与优化。
微软宣布启动史上最大规模的黑客竞赛“零日任务”,奖金池高达3600万元,希望征集旗下云服务和AI产品平台的安全漏洞。
通过生物特征识别技术,面容、指纹、虹膜、体态、步态等数据能够被快速采集、分析、存储和识别,为我们的生活带来极大的便捷,但同时其数据采集背后潜藏的失泄密风险不容忽...
人工智能的训练数据存在良莠不齐的问题,其中不乏虚假信息、虚构内容和偏见性观点,造成数据源污染,给人工智能安全带来新的挑战。
本研究将以此事件为切入点,探讨AI大模型相关的新型安全事件,分析其攻击面和技术手段,并评估其潜在影响。
安全软件是增长最快的细分领域,云安全态势管理和云访问安全代理成为该领域增长的主要驱动力。
共发现23款APP及SDK存在侵害用户权益行为,现予以通报。
《网络安全技术 信息安全风险管理指导》《网络安全技术 云计算服务安全能力评估方法》《网络安全技术 人工智能计算平台安全框架》等。
《全国一体化算力网 智能算力池化技术要求》《全国一体化算力网 安全保护要求》等2项技术文件。
网络攻击致使俄罗斯最大的两家连锁药房支付系统中断,全国可能数百上千家药店被迫停业,药品流通受到扰乱。
Docker 的警告十分明确:如果没有适当的隔离、监督以及安全默认设置,当前看似便利的 AI 应用,未来可能会成为引发安全漏洞的源头。
华安证券从行业合规风控业务难点及痛点出发,打造合规风控一体化平台,推动公司合规监管从“风控孤岛”到“全域监管”的转型升级。
清晰梳理无人机威胁模型和攻击场景,一方面能助力无人机研发者在设计阶段就融入安全防护机制,另一方面,也让无人机使用者(企业、军方、个人)清楚风险点,便于制定使用规范...
金融支持新型工业化,七部门联合发文提出18项举措!
十大关键词分别是通用智能体、专用智能体、端侧智能体、企业级智能体、智能体平台、智能体通信协议、多智能体协同、智能体价值评估、智能体可信、智能体基准测试。
本文提出了一种名为MH-Net的新型多视角异构图模型,通过将不同位数的流量比特聚合为多种类型的流量单元,构建多视角流量图,丰富了信息表达粒度,并提升了模型性能。
第七届“纵横”网络空间安全创新论坛评选发布。
本文的研究为理解和防御 LLM 越狱提供了新的视角,也提醒业界亟需更加透明且强健的防御机制,以提升 AI 安全与伦理的底线保障。
本文结合移动警务终端技术发展和行业应用现状,重点阐述了智能手机型移动警务终端GA认证相关的可信度量和安全基线等关键验证技术,详细解析了实施认证的主要程序、具体要求...
现有的方法对大语言模型(LLM)「越狱」攻击评估存在误判和不一致问题。港科大团队提出了GuidedBench评估框架,通过为每个有害问题制定详细评分指南,显著降低了误判率,揭...
微信公众号