前言

新事物、先认知,再共识,后工程——拥抱AI的安全起点

人工智能的热度持续升温,同样在安全行业居高不下。近年来网络和数据安全从业者最关心的问题逐渐清晰分为两类。

第一类,如何用AI来做好安全——用AI能力进行分析识别、风险治理、监测预警、威胁狩猎、深度调查、主动防御……我们把它称为“人工智能赋能安全”(A面),即 AI for Security。

第二类,关于AI自身的安全——模型被投毒怎么办?提示注入攻击怎么防?训练数据泄露如何应对?我们把他称之为“人工智能的安全”(B面),即Security of AI。

A面与B面同等重要,都是需要回答的问题。研究时间关系,今天我们先把目光聚焦在A面。因为,AI赋能安全远不是“部署一个大模型,安全能力就自动升级”那么简单。它涉及业务问题的精准识别、高质量数据的构建、多层算法的协同设计、成熟度的持续评估、与现有安全流程的工程集成,以及长期的运营迭代——这是一个不折不扣的复杂系统工程。

面对这个新事物,行业当前最稀缺的不是算法工程师,也不是算力资源,而是系统性的认知。不知道从哪开始、不知道成功标准是什么、不知道如何避免踩坑——这些不知道正是最大的障碍。任何新事物的落地,都要经历“认知→方法→工具→实践”的层层递进。第一步,永远是认知的达成。

在此背景下,中国信息协会信息安全专业委员会PCSA安全研究院/联盟,联合成员单位、行业用户和产业各方,开展了《数字时代:AI for Security 系统工程认知罗盘图》的研究工作,历时一年有余。它不是一份操作手册,而是一张帮助团队对齐认知、看清全貌、找到路径的研究成果,旨在为数安产业、行业用户和从业者提供一个AI赋能安全工作的参考指引。

先认知,再共识,后工程。这张罗盘图,就是我们拥抱AI的可能起点。

声明

本文及《数字时代:AI for Security 系统工程认知罗盘图》系列图中涉及的内容,包括但不限于文本、图片、数据、表格、观点等各种形式,已取得相关著作权,严格遵循国家网络安全法律法规、标准规范,均为互联网可公开查询资料,总结凝聚了行业共性经验,意在开展深度交流、学习及研讨。

科技创新、学无止境,尊重原创、尊重创新,转载、摘编使用本文图片、文字或观点等的应注明来源。未经授权许可,任何法人单位及个人不得用于商业目的使用。违反上述声明者,我司可追究其相关法律责任。

研究背景及主要挑战

人工智能的大趋势不可逆转,安全行业也在积极拥抱这一变革。大量企业已从“要不要用AI”快速进入“怎么用AI”的落地阶段。与此同时,人工智能正深度重塑数字世界的攻防格局:攻击者已率先利用AI实现自动化漏洞挖掘、智能钓鱼邮件、动态绕过检测等手段,其攻击频率、规模与隐蔽性呈指数级上升。AI赋能安全,业界需求极为迫切,但系统性的方法论普遍缺失。

早期网络安全本质上是人与人的对抗——攻击者与防御者依赖经验和工具进行博弈。随着自动化攻击工具和AI辅助攻击出现,对抗形态演变为人与AI的对抗:防御方仍以人工研判为主,攻击方却已借助AI放大效率与规模,这种不对称造成了当前安全效能的最大瓶颈。

安全业界逐渐认识到,单纯增加安全产品堆砌无法弥补这一悬殊差距。必须转向以AI对抗AI的新范式,将人工智能全面嵌入防御体系,实现分析、识别、预警、狩猎、调查、防御的智能化升级。然而,AI赋能安全并非“部署一个大模型,安全能力自动升级”的捷径。它涉及业务问题定义、数据治理、算法协同、系统集成、运营成熟度等多个复杂维度,是一个不折不扣的系统工程。当前行业最稀缺的不是算力或算法工程师,而是系统性的认知——不知道从哪开始,不知道成功标准,不知道如何避免工程烂尾。

挑战一:攻防起点严重不对等

攻击者已大规模使用AI:自动生成免杀木马、智能钓鱼话术、动态绕过WAF规则、批量漏洞挖掘与利用。防御方仍以传统手段(签名库、SIEM规则、人工研判)为主,响应速度、覆盖广度、分析深度与AI攻击差距呈指数级拉大。

核心难点:缺少量化评估模型来度量“落后多少”;也缺少明确路径从“人防”跨越到“以AI对抗AI”。

挑战二:安全业务问题识别不清

如果定义不清晰,AI就会成为“打哪儿指哪儿”的伪命题。实际安全团队面临四类典型痛点:

误报疲劳:海量告警中有效威胁不足1%,淹没真实攻击。

未知威胁发现慢:未知病毒、0-day、隐蔽隧道无法规则匹配。

响应滞后:从发现到阻断依赖人工编排,错过黄金时间。

高级隐蔽攻击:APT慢速扫描、离地攻击、合法工具滥用难以识别。

核心难点:企业往往不知道应从哪一类痛点优先切入,导致需求发散、技术选型失败。

挑战三:工程化思维缺失

多数组织习惯“买设备、堆产品”:EDR、NDR、防火墙、SOAR……以为加一个大模型就能自动升级。实际上AI赋能安全涉及数据、算法、算力、集成、运营五大子系统协同,任何一个断点都会导致整体失效。

核心难点:缺乏系统工程方法论——不会拆解能力域、不会定义接口、不会设计回环迭代,最终形成新的“AI烟囱”。

挑战四:数据底座不牢靠

企业拥有PB级日志、流量、告警数据,但AI需要的是场景驱动、高质量、带标签、可迭代的数据集。现实是:数据分散(多云/本地/不同格式)、严重脏污(缺失字段、时间戳错乱)、缺乏威胁真相标注(哪些是真的攻击?)。

核心难点:不知道如何构建用于AI的安全数据集——抽样策略、标签来源、正负样本平衡、持续更新机制均缺失。

挑战五:模型与工程脱节

算法团队追求的“99%准确率”在真实环境中可能变成“90%漏报+80%误报”。原因包括:

模型设计时未考虑推理延迟、算力成本、可解释性要求;

评估验证使用历史数据而非在线对抗数据;

工程化落地缺失MLOps流程:模型版本管理、A/B测试、在线反馈、自动重训。

核心难点:三个关键点(模型设计 → 评估验证 → 工程化落地)无法形成闭环,项目极易烂尾。

挑战六:运营配套缺失

很多AI安全系统上线后半年内无人维护:告警没人研判、模型漂移不修正、新攻击场景不更新、流程根本不配套。

流程配套:AI给出风险评分后,安全运维是否要人工复核?响应等级如何定义?

人员配套:缺少懂安全+懂AI的混合型工程师,也不会调优。

迭代机制:无定期重训、无对抗样本注入、无真实反馈闭环。

核心难点:从“建成系统”到“持续运转”之间的软性成本被严重低估,导致投入产出极低。

挑战七:团队共识无法拉齐

AI安全工程不是纯技术问题,涉及资源投入、数据共享、业务流程改造。实际情况是:

管理层认为“买个AI平台就能解决”;

业务部门担心数据外泄不肯开放样本;

安全团队抱怨模型不准;

开发团队认为需求总在变。

核心难点:缺少一个共享的认知框架——从目标、路径、成功标准到风险预期都不统一,导致资源无法聚焦、协同失败。

研究成果-认知罗盘图解读

《数字时代:AI for Security 系统工程认知罗盘图》核心思想可总结为“1+6+N+10+5”,即:1个目标定方向,6个象限建能力,N个要素拆细节,10大场景落价值,5步演进看路径。

1个总体目标:提效、提智、可控、可量

AI for Security 总体目标:提效、提智、可控、可量。提效突破人力不及,提智突破智力瓶颈,可控确保风险可控,可量实现价值可量——能力突破与可持续保障闭环,构成系统工程的核心目标。

提效:突破“人力不及”,面对日均数百万安全威胁与告警,安全事件堰塞湖与安全分析师严重不足的矛盾长期存在。通过应用AI能力实现自动化降噪、告警聚类、自动封禁与取证,将MTTD/MTTR从小时级压缩至分钟甚至秒级。

提智:突破“智力瓶颈” 未知行为、威胁、APT、多阶段攻击链、跨源关联分析等场景,传统规则和人工专家难以覆盖。通过应用AI能力以深度学习挖掘隐蔽特征、大模型理解攻击意图、图神经网络识别异常行为,突破人类认知天花板。

可控:确保风险可控,确保AI运行过程可控,识别并防范AI可能带来的误判、黑盒不可解释、被对抗攻击欺骗等风险。通过可解释性机制(如SHAP值、注意力热图)、人机协同兜底、模型鲁棒性测试、审计日志全记录,让AI安全可靠。

可量:实现价值可量。AI安全投入普遍较大,若无法证明ROI则不可持续。建立从成本到成效的全链路度量体系,涵盖模型推理成本/次、数据标注成本/有效样本、安全成效提升幅度。

6个关键象限:能力建设全生命周期

六个象限是一条从业务到价值的工程路径:象限1把“提效、提智”转化为具体场景和量化目标,象限2为场景准备高质量数据,象限3打造多层协同的智力引擎,象限4持续体检确保可控与可量,象限5让模型融入生产流程产生提效价值,象限6驱动数据飞轮并用度量证明ROI,顺序不可颠倒——业务定义不清则数据错位,数据质量差则模型无用,模型未验证就落地则可控可量皆为空谈,落地后不运营则前期投入全部浪费——这正是《数字时代:AI for Security 系统工程认知罗盘图》能力建设框架的核心理念认知、共识、实践。

象限

名称

核心命题

输入

输出

1

安全业务问题识别

做什么?为什么做?

业务痛点、战略目标

量化指标、场景清单

2

高质量安全数据集

拿什么输入?

原始日志、流量、情报,鲜活高质量数据、垃圾数据

可训练、可追溯的数据资产

3

安全算法模型设计

怎么学?

训练数据、业务需求

多层协同模型架构

4

成熟度评估与验证

做得对吗?够好吗?

模型、数据、算力

准入/准出报告

5

效能工程落地建设

怎么用起来?

已验证的模型

集成到生产流程的服务

6

持续运营迭代优化

怎么长期更好?

生产反馈、新威胁

数据飞轮、持续进化

象限1详解:安全业务问题识别

核心命题:做什么?为什么做?所有AI for Security 工程的起点不是技术,而是业务痛点。如果问题定义错误,后续数据、模型、落地全部偏离方向。

关键动作:梳理核心痛点,尤其当前安全工作中的“人力不及、智力瓶颈、能力局限、时间效率”——哪些是传统手段长期解决不了的?

筛选高价值AI场景:不是所有问题都适合AI。优先选择重复性高、模式可学、反馈闭环清晰的场景,如分析识别、风险治理、告警降噪、威胁狩猎、自动响应、恶意代码检测等。

定义量化标准:每个场景必须有可测量的目标,例如“准确率≥95%”“误报率降低80%”“MTTD从4小时降至10分钟”。

建立场景优先级矩阵:横轴为业务价值(高/中/低),纵轴为AI可行性(高/中/低),优先落在高价值+高可行区域。

常见误区:从技术出发:“我们有GPU集群,做一个大模型吧”——没有业务牵引的AI注定成为摆设。目标模糊:“提升检测能力”——没有量化指标就无法验证成败。

输出物:业务场景优先级矩阵、量化指标卡(每个场景一张卡,含成功标准、数据需求、预期收益)。

象限2详解:高质量安全数据集

核心命题:拿什么做输入,鲜活高质量数据、垃圾数据?AI模型的质量,归根结底由训练数据的质量决定。安全领域的数据尤其特殊:攻击样本稀缺、标注成本高、数据分布动态实时变化。

关键动作:规划业务数据、数据范围、数据获取手段、鲜活率,明确数据集,例如、业务与资产集、安全风险数据集、覆盖正常流量与攻击流量、不同时间段(工作日/节假日/攻防演练期)、不同环境、不同安全域。

采集多源数据:业务与资产数据、暴露面数据、日志(系统、应用、安全设备)、流量(PCAP、NetFlow)、终端(进程、文件、注册表)、身份(认证、权限)、漏洞扫描结果、威胁情报。

清洗与预处理:去重、缺失值处理、时间戳对齐、脱敏(避免隐私泄露)。

精准标注:尤其是业务关联数据、风险关联数据、安全攻击样本——需要业务专家确认业务系统、业务流,风险级别,需要安全专家确认攻击类型、攻击链阶段、是否真实攻击(而非误报)。标注质量直接决定模型能力上限。

建立数据版本管理:每次训练使用哪个数据集版本必须可追溯,支持回滚和比对。

隐私合规机制:满足《个人信息保护法》、GDPR等要求,敏感数据不出域。

核心原则:质量 > 数量:1000条精准标注的高知识浓度的数据,胜过100万条噪声数据。

闭环决定进化速度:采集 → 标注 → 训练 → 反馈 → 再采集,飞轮转得越快,模型越强。

输出物:可信数据管道(自动化采集、清洗、标注流程)、标注规范文档、数据质量仪表盘(覆盖率、标注一致性、时效性指标)。进一步可围绕分析识别库、资产关联库、安全风险库、安全能力库、安全日志库、安全知识语料库等公共基础库沉淀可复用数据资产,为后续模型训练、研判分析和运营闭环提供稳定底座。

象限3详解:安全算法模型设计

核心命题:怎么学?安全场景复杂多变,没有单一模型可以解决所有问题。需要构建多层协同的模型架构。

关键动作:根据场景选择模型类型,统计规则(如阈值、黑白名单)是属于快速兜底,可解释性强,适合已知威胁。专用小模型如孤立森林(异常检测)、图神经网络(关联分析)、Transformer(日志序列建模),适合特定任务,轻量高效。大模型安全大模型微调,适合语义理解、攻击意图推理、自然语言交互,但推理成本高。

设计模型:模型编排与调度机制——哪些请求走规则,哪些走小模型,哪些调用大模型;多个模型的结果如何融合(投票、加权、级联)。

嵌入可解释性工具:如SHAP值、LIME、注意力热图,让分析师理解模型为什么判定为攻击,便于人工复核和改进。

嵌入对抗防御机制:防范对抗样本攻击(如轻微修改恶意载荷使模型误判),包括对抗训练、输入校验等。

核心原则:没有万能模型,多层协同才是解。可解释性是安全AI的生命线——黑盒模型无法通过合规审计,也无法获得分析师信任。

输出物:模型选型报告(含对比测试结果)、模型编排架构图、可解释性方案(每种模型如何解释输出)。

象限4详解:成熟度评估与验证

核心命题:做得方向是否正确?基础条件和必要性条件是否具备?模型在实验室跑出99%准确率,不代表能在生产环境工作。必须建立持续性的评估验证体系。

关键动作:六维评估从预算、人力、数据、模型、算力、时间六个维度评估项目是否具备进入下一阶段的条件。

建立自动化测试基准集:包含历史真实攻击(覆盖多种攻击类型)、对抗样本(针对模型弱点的构造样本)、漂移样本(分布发生变化的数据,如新攻击手法)以及基础数据集

执行准入评审:模型性能达标(准确率、召回率、误报率满足指标卡)、鲁棒性通过(对抗样本防御成功率≥阈值)、可解释性满足要求(分析师能够理解判断依据)。

持续监控模型漂移:上线后定期检测数据分布变化、特征重要性偏移,一旦漂移超过阈值触发告警和重训。

核心原则:评估是持续性体检,不是一次性验收。模型上线后每个月都要复查。

输出物:六维评估报告(每个维度打分及改进建议)、准入/准出标准文档、漂移监控仪表盘(实时显示漂移指数)。

象限5详解:效能工程落地建设

核心命题:怎么用起来?模型再强,如果不能集成到现有安全业务流程中,价值为零。

关键动作:系统集成与SIEM、SOAR、EDR、XDR、NGFW等平台通过标准API或插件对接。确保模型能接收实时告警,也能下发处置指令。

流程编排:将AI研判结果嵌入安全响应Playbook。例如:高风险告警(AI置信度≥0.95)→ 自动隔离终端 + 自动取证、中风险告警(0.7~0.95)→ 推送待办给分析师复核、低风险 → 自动归档

可观测性建设:监控模型输入(数据质量)、过程(计算过程)、输出(置信度分布)、延迟(P99响应时间)、资源消耗(GPU/CPU/内存)、漂移指标(特征偏移)。任何异常可快速发现。

AI自身安全:防止模型成为新攻击面——实施严格的访问控制(谁可以调用模型)、审计日志(记录每一次推理请求和结果)、防提示注入(对大模型输入做过滤)、防模型投毒(校验训练数据来源)。

核心原则:不能集成的模型价值为零。工程落地是AI从“玩具”到“工具”的分水岭。

输出物:集成适配器(每个对接系统的插件)、可观测仪表盘(实时展示模型健康度)、AI安全治理规范(访问控制、审计、应急响应流程)。

象限6详解:持续运营迭代优化

核心命题:怎么长期更好?AI安全系统不是建完即止,而是持续进化的生命体。上线只是开始。

关键动作:建立数据飞轮、生产中的反馈回流,分析师对模型判断的修正(假阳性/假阴性标记)、误报/漏报的标记,定期汇入数据集。定期微调模型:每两周或每月基于新数据重新训练或微调,模型性能随数据增长而提升。

效能量化:每月/每季度计算关键指标——ROI:安全投入 vs 风险降低(如节省了多少分析师工时、避免了哪些损失)、MTTD/MTTR变化:与上一周期对比是否持续改善

自动化处置率:AI自动处理的安全业务场景、环节的比例。逐步提升自动化率

人才培养:安全团队:培训理解AI输出的含义、置信度、可解释性图表,知道何时信任AI、何时人工介入。

算法团队:培训理解安全业务逻辑、攻击者视角、数据标注规范,避免“脱离业务搞模型”。

体系融合:将AI成效纳入安全KPI(如模型贡献的自动化处置率、漏报率下降幅度),调整组织职责(设立AI安全运营岗、模型运维岗),优化协作流程(安全团队与数据团队的联合复盘机制)。

核心原则:AI是活体,上线只是开始。不运营的AI安全系统必然退化至不可用。

输出物:数据飞轮闭环SOP(反馈回流的标准操作流程)、效能量化仪表盘(月度/季度自动生成报告)、年度培训计划(安全+算法双向培训课程)。

N个核心要素: 认知为舵,工程为桨

磨刀不误砍柴工。AI for Security 不是一场技术竞赛,而是一场认知与工程的双向奔赴。每个象限的“认知视角”回答“信什么”——帮助我们看清本质、避免盲从;每个象限的“工程视角”回答“做什么”——指导我们落地执行、少走弯路。N不是固定的数字,而是随着业务场景动态扩展的要素集合。底层逻辑清晰了,每一步才有方向;认知与工程对齐了,每一次投入才有回报。不为了AI而AI,循序渐进,层层递进,少走弯路就是最大的胜利。

六个象限双维度要素总览

象限

认知视角(信什么)

工程视角(做什么)

安全业务问题识别

人力不及、智力瓶颈、能力局限、时间效率

方针策略、业务场景、痛点分析、量化指标

高质量安全数据集

业务驱动、数据治理、质量>数量、保真保鲜

数据规划、数据采集、数据预处理、数据标注

安全算法模型设计

按需匹配、可解释性、多模协同、韧性可控

场景建模、特征设计、模型选型、评估标准

成熟度评估与验证

持续评估、多维平衡、投入产出、接受不完美

场景覆盖、信任验证、可复现性、持续检验

效能工程落地建设

资源约束、系统思维、灰度渐进、人机分工

系统集成、流程编排、可观测性、安全治理

持续运营迭代优化

数据飞轮、渐进增强、长期主义、自学习成长

持续部署、风险控制、状态感知、反馈闭环

扩展性说明:上表为通用核心要素。实际应用中,可根据行业特性、组织规模、业务复杂度动态增加要素。

“N个核心要素”不是泛泛而谈,而是围绕六个象限逐层展开的认知与工程集合。每个象限既回答“怎么看”,也回答“怎么做”,共同决定AI for Security能否从概念走向落地。

象限1对应安全业务问题识别,核心要素首先在于把真实痛点看清。认知上,要正视人力不及、智力瓶颈、能力局限与时间效率等现实问题;工程上,则要把这些问题落实为方针策略、业务场景、痛点分析和量化指标。说到底,AI项目不是先选模型,而是先回答“为什么做、先做什么、做到什么算成功”。

象限2对应高质量安全数据集,核心要素在于把数据真正变成可用资产。认知上,要坚持业务驱动、数据治理、质量重于数量、保真保鲜;工程上,要完成数据规划、数据采集、数据预处理和数据标注,形成可训练、可追溯、可复用的数据底座。进一步看,业务与资产数据、风险关联数据、安全攻击样本,以及沉淀形成的分析识别库、资产关联库、安全风险库、安全能力库、安全日志库、安全知识语料库,本质上都在为AI提供稳定“燃料”和长期底座。

象限3对应安全算法模型设计,核心要素在于按需匹配、协同建模。认知上,要明确没有万能模型,可解释性和韧性可控同样重要;工程上,则需要完成场景建模、特征设计、模型选型和评估标准设计。很多安全场景真正有效的,不是单一大模型,而是规则、小模型、大模型和图分析等多层协同。

象限4对应成熟度评估与验证,核心要素在于持续评估、投入产出和接受不完美。认知上,要接受准确率、成本、延迟、可解释性之间需要平衡;工程上,要围绕场景覆盖、信任验证、可复现性、持续检验建立验证机制。AI安全不是“上线即验收”,而是需要长期体检、持续校准的工程对象。

象限5对应效能工程落地建设,核心要素在于系统思维、灰度渐进和人机分工。认知上,要知道AI不是孤岛,也不能脱离资源约束;工程上,则要推动系统集成、流程编排、可观测性和安全治理,让模型真正嵌入SIEM、SOAR、EDR等现有流程,进入分析师和运营人员的日常工作场景。

象限6对应持续运营迭代优化,核心要素在于数据飞轮、渐进增强、长期主义和自学习成长。认知上,要接受“上线只是开始”;工程上,则要做好持续部署、风险控制、状态感知和反馈闭环。只有生产反馈不断回流、数据持续更新、模型持续微调,AI能力才可能越用越准、越用越稳。

综合来看,这些核心要素并不是彼此孤立,而是前后衔接、相互支撑的。象限1明确方向,象限2准备弹药,象限3构建智力,象限4校验质量,象限5嵌入流程,象限6驱动进化。认知与工程只有同时到位,AI for Security才不会停留在单点演示,而能真正形成可持续演进的系统工程。

10大安全业务场景:赋能战场

核心共识:这十大场景覆盖安全业务关键环节,每个场景都具有基础数据量大、工作难度高、人力不可及、能力瓶颈、智力不足、需要持续运营六大共性特征。安全专家一致认为:做好这些主要场景,提升效能,就可以事半功倍。

· 场景1:分析识别

简要说明:

业务与资产识别、关键业务链识别、责任链识别、风险识别、暴露面识别、安全能力识别等

典型AI应用:

AI辅助资产发现、自动化业务画像、分析识别模型、暴露面智能识别、安全能力成熟度评估

深度解读:

维度

内容

痛点分析

数字化组织资产业务关系错综复杂,资产量大,传统人工梳理耗时数月且更新滞后;暴露面随业务动态变化,手工无法全面覆盖

AI价值

自动化分析识别、学习持续发现未知资产;通过图算法识别业务依赖关系;智能分析暴露面风险等级

事半功倍的关键

一次AI建模,持续自动识别,替代周期性人工排查,识别效率提升10倍以上

与罗盘关联

象限1(业务问题识别)的典型实践 — 先搞清“有什么、是什么”,才能决定“保护什么、怎么保护”

· 场景2:风险治理

简要说明:

战略威胁量化评估、三层暴露面风险、高危漏洞、高危端口、弱口令风险优先级排序、风险量化、风险预测模型

典型AI应用:

智能漏洞优先级排序(结合资产重要性、威胁情报、可利用性)、风险预测模型、动态风险评分

深度解读:

维度

内容

痛点分析

漏洞数量爆炸(单家企业可能数万漏洞),修复资源有限,人工难以判断“先修哪个”;静态评分(如CVSS)与实际风险脱节

AI价值

结合资产价值、威胁情报活跃度、漏洞可利用性,AI动态计算风险优先级;预测未来可能被利用的漏洞

事半功倍的关键

将有限的修复资源聚焦在最关键的20%风险上,覆盖80%的实际威胁;避免“修了很多低危漏洞,高危漏洞反而遗漏”

与罗盘关联

象限1(量化指标)— 风险优先级本身就是最核心的量化决策指标

· 场景3: 监测预警

简要说明:

全维全域实时监测、关键隘口和重点口异常检测、威胁降噪、情报降噪、告警降噪、事件降噪。

典型AI应用:

基于AI的异常检测(UEBA)、大模型告警解读与聚类、智能降噪(减少90%+无效告警)。

深度解读:

维度

内容

痛点分析

安全告警日均数万至数百万,其中90%以上为误报或低危事件;安全分析师被淹没在告警海洋中,真正的威胁被掩盖

AI价值

AI自动识别告警模式,聚类相似告警,剔除已知误报;大模型生成告警摘要和优先级建议;UEBA检测偏离基线的异常行为

事半功倍的关键

将分析师从“看告警”中解放出来,专注于“判威胁”;降噪率90%意味着同样的人力可覆盖10倍的有效监测范围

与罗盘关联

象限5(工程落地)— 监测预警是SOAR集成的前置环节,是自动化响应的“眼睛”

· 场景4:综合研判

简要说明:

多源告警关联、攻击链重构、深度调查、事件溯源分析、事件定性分析、过程透明。

典型AI应用:

图神经网络关联分析、大模型研判助手(自动生成攻击故事线)、溯源图自动构建。

深度解读:

维度

内容

痛点分析

单一告警信息碎片化,无法看清攻击全貌;专家需要手动关联防火墙、EDR、NDR、身份等多源日志,耗时数小时至数天

AI价值

AI自动关联跨源告警,重构攻击链(从初始访问到最终 impact);大模型生成可读的研判报告;溯源图自动推理

事半功倍的关键

将研判时间从天级降至分钟级;降低对顶级安全专家的依赖(稀缺资源),让中级分析师也能做出高质量研判

与罗盘关联

象限3(算法模型设计)— 图神经网络、大模型是综合研判的核心技术

· 场景5:事件处置

简要说明:

自动化策略编排、自动化响应、自动化处置、自动化反馈、自动化取证溯源。

典型AI应用:

AI自动封禁IP/域名、自动隔离终端、自动取证(采集内存/文件)、自动生成处置报告。

深度解读:

维度

内容

痛点分析

从发现威胁到人工处置,中间环节多、耗时长;攻击者可能已经在几十分钟内完成了横向移动;人工取证繁琐易错

AI价值

AI根据研判置信度自动执行响应动作(低风险动作如封禁,高风险动作需审批);自动化采集证据链;反馈至数据飞轮

事半功倍的关键

将MTTR(平均响应时间)从小时级降至分钟级甚至秒级;阻断攻击者在“停留时间”内的进一步破坏

与罗盘关联

象限5(工程落地)— 流程编排和系统集成是自动化处置的工程底座

· 场景6: 主动防御

简要说明:

智能诱饵、威胁狩猎、欺骗防御、AI自动封禁、攻击反制。

典型AI应用:

AI动态生成诱饵(虚假资产、凭证、数据),智能欺骗防御;AI驱动的威胁狩猎(主动寻找隐蔽威胁)。

深度解读:

维度

内容

痛点分析

传统防御是被动的——等攻击来了再响应;攻击者可能已潜伏数月不被发现;威胁狩猎高度依赖专家经验

AI价值

AI学习真实业务环境,自动生成逼真的诱饵;分析攻击者行为模式,预测下一步攻击路径;主动发现异常行为

事半功倍的关键

将防御从“被动响应”转向“主动诱捕”;早期发现潜伏威胁,避免数据泄露后的被动应急

与罗盘关联

演进圈L4(业务免疫级)— 主动防御是L4的核心能力标志

· 场景7:检测评估

简要说明:

自动化渗透测试、安全评估、红蓝对抗、风险检测。

典型AI应用:

AI辅助漏洞挖掘、自动化渗透测试工具、红队AI助手(自动生成攻击路径)。

深度解读:

维度

内容

痛点分析

渗透测试依赖人工,周期长、成本高;难以覆盖所有系统;红蓝对抗需要大量专家参与

AI价值

AI自动发现潜在漏洞路径,模拟攻击者行为;自动生成渗透测试报告;红队使用AI辅助生成攻击策略

事半功倍的关键

将渗透测试从“一年一次”变为“持续进行”;降低对顶尖渗透测试专家的依赖

与罗盘关联

象限4(成熟度评估)— 自动化检测评估是持续验证安全能力的有效手段

· 场景8:数据安全

简要说明:

数据防泄漏、数据自动化脱敏、数据智能分级分类、数据本体血缘关联。

典型AI应用:

理解数据内容的AI脱敏(非正则匹配)、异常数据访问检测(UEBA)、数据自动分类分级、数据血缘图构建。

深度解读:

维度

内容

痛点分析

数据量爆炸(PB级),人工分类分级不现实;传统DLP基于正则规则,无法理解上下文(如“身份证号”在测试环境vs生产环境);数据流转路径不可见

AI价值

AI理解数据语义,自动识别敏感数据并分类分级;检测异常访问(如下载大量客户数据);构建数据血缘关系图

事半功倍的关键

从“一刀切保护”到“精准保护”;大幅降低数据安全运营成本;满足GDPR/个保法等合规要求

与罗盘关联

目标圈“可控” — 数据安全是合规与风险控制的核心战场

· 场景9: 开发安全

简要说明:

代码审计、开源组件检测、DevSecOps、修复建议。

典型AI应用:

大模型辅助代码漏洞扫描、智能修复建议(生成补丁代码)、开源组件已知漏洞分析。

深度解读:

维度

内容

痛点分析

代码量巨大,人工审计只能覆盖核心模块;开发人员安全能力参差不齐;漏洞修复成本随发现时间指数级上升

AI价值

AI理解代码语义,发现传统SAST无法发现的逻辑漏洞(如权限绕过);自动生成修复建议甚至补丁代码;分析开源组件依赖关系

事半功倍的关键

在开发阶段发现漏洞,修复成本是生产环境的1/30;将安全左移,从源头降低风险

与罗盘关联

场景圈重点方向 — 开发安全是DevSecOps的核心,与象限6“持续运营”形成闭环

· 场景10:持续运营

简要说明:

安全度量、态势报告、配置管理、生成态势报告、智能策略优化。

典型AI应用:

AI生成自然语言态势周报/月报、智能策略推荐(如防火墙策略优化)、安全健康度评分。

深度解读:

维度

内容

痛点分析

安全运营每天产生大量数据,但缺乏有效的度量和可视化;态势报告撰写耗时费力;安全策略(如防火墙规则)臃肿冗余

AI价值

AI自动生成可读的态势报告,突出重点趋势和异常;分析历史事件,推荐最优策略配置;计算安全健康度评分

事半功倍的关键

让管理者“一眼看清”安全状态;将安全策略从“人工配置”变为“AI辅助优化”;持续度量才能持续改进

与罗盘关联

象限6(持续运营)的集中体现 — 数据飞轮、效能量化、体系融合都在此落地

十大场景总结:事半功倍的实践智慧

场景

事半功倍的核心逻辑

关键量化指标

分析识别

一次建模,持续自动发现

资产覆盖率、识别准确率

风险治理

聚焦20%风险,覆盖80%威胁

漏洞修复优先级准确率

监测预警

降噪90%,人力覆盖10倍范围

告警降噪率、漏报率

综合研判

研判时间从天级降至分钟级

MTTI(平均研判时间)

事件处置

MTTR从小时代降至分钟级

MTTR、自动化处置率

主动防御

从被动响应转向主动诱捕

攻击发现时间、诱饵命中率

检测评估

从一年一次到持续进行

渗透测试覆盖率、漏洞发现数

数据安全

精准保护,降低运营成本

敏感数据识别率、误报率

开发安全

左移发现,降低修复成本

开发阶段漏洞发现率

持续运营

可视可度量,持续改进

安全健康度、报告生成效率

专家共识:这十大场景不是孤立的,而是相互关联、相互增强的。例如:分析识别(场景1)的资产清单是风险治理(场景2)的输入;监测预警(场景3)的告警需要综合研判(场景4)来定性;研判结果驱动事件处置(场景5);处置反馈又回到持续运营(场景10)的数据飞轮中。

演进三阶梯:看见 → 洞见 → 预见

阶梯

名称

核心能力

对应演进等级

关键特征

第一阶梯

看见

数据采集、聚合、可视化、基础降噪

L1(辅助感知级)

解决“有什么、发生了什么”的问题,让安全态势可见

第二阶梯

洞见

自动化响应、关联分析、人机协同

L2-L3(智能驱动→体系融合)

解决“为什么发生、如何应对”的问题,让安全逻辑可解

第三阶梯

预见

预测未知攻击、动态防御、原生智能

L4-L5(业务免疫→原生智能)

解决“将要发生什么、如何主动防御”的问题,让安全风险可控可预

如果把L1-L5展开来看,它们并不是抽象标签,而是AI for Security由浅入深的成熟度演进路径,每一层都有不同目标、能力边界和落地重点。

L1辅助感知级

重点在“先看见”。这一阶段以数据采集、数据聚合、基础降噪、告警聚类和可视化为主,目标是让安全运营从“盲人摸象”走向“全景可见”。AI更多承担辅助分析、优先级标注和基础降噪工作,最终决策仍然在人。

L2智能驱动级

重点在“让AI贯穿流程”。此时AI不再是单点工具,而是逐步进入预防、检测、分析、调查、响应、狩猎等全流程,和SIEM、SOAR、EDR、NDR、UEBA等平台深度集成。攻击链重构、自动化取证、威胁狩猎等能力在这一阶段开始真正形成端到端闭环。

L3体系融合级

重点在“让AI贯穿流程”。此时AI不再是单点工具,而是逐步进入预防、检测、分析、调查、响应、狩猎等全流程,和SIEM、SOAR、EDR、NDR、UEBA等平台深度集成。攻击链重构、自动化取证、威胁狩猎等能力在这一阶段开始真正形成端到端闭环。

L4业务免疫级

重点在“开始预见”。在更成熟的数据底座、模型能力和流程协同支撑下,AI开始从被动响应转向主动预测与动态防御,包括攻击路径预测、动态策略调整、智能诱饵升级和风险量化预测等。其核心价值在于,让防守从“发现后再处理”迈向“提前判断、提前加固”。

L5原生智能级

重点在“预见成为常态”。这一阶段AI成为安全架构的默认能力,新业务、新系统、新数据管道在设计之初就内置AI安全能力,更多威胁由系统自治处置,安全与业务意图更深度融合,安全决策也开始具备更强的模拟推演和战略支撑能力。

从实践角度看,大多数组织并不需要一步跳到L5,更现实的路径往往是先把L1做扎实,再推动L2、L3落地,逐步积累数据飞轮、工程集成和运营能力,在此基础上向L4迈进。换句话说,L1-L5不是“越高越好”的口号排序,而是一条需要结合自身基础、业务节奏和投入能力循序推进的成熟度路线。

致敬

历年来研究成果下载(高清图),(可通过公众号后台回复“七年七图”即可获取下载链接!)

声明:本文来自PCSA智御未来,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。