文 | 国家工业信息安全发展研究中心 郑爽 李赟 张伟* 巩天宇 高建磊
近年来，人工智能技术显著提高了各行各业的效率水平，增强了面向实际场景的问题解决能力。但人工智能在推动产业变革、加速产业转型升级的同时，也给安全保密工作带来了前所未有的挑战。
一、我国安全保密管理工作现状
当前，人工智能技术已深度融入政务服务、国防科研等重要领域，成为数字化转型的核心驱动力，网络安全和数据安全亦构成保密工作的核心支撑。为充分保护涉密信息安全，需要对贯穿采集、存储、传输、使用、销毁等全生命周期的数据安全进行全过程管控。随着我国网络应用规模逐步扩大，系统结构复杂性加剧，资产暴露面不断增大，人工智能技术的自主学习、数据聚合、智能生成特性，使保密工作面临的风险呈现智能化、隐蔽化、规模化特征，导致泄密事件频发且危害加剧，形势极为严峻。据国家安全部通报，个别单位因直接使用开源框架建立联网大模型，导致攻击者未经授权即可自由访问内部网络，从而引发数据泄露和安全风险。
在政策法规层面，我国虽已出台多部法律法规，为传统保密工作提供法理支撑，但针对人工智能场景的专项保密法规及配套标准仍然存在短板。现有制度主要聚焦传统数据安全、网络安全场景，尚未针对模型训练、涉密数据投喂、模型运维管控等环节明确专门责任，也缺乏适配人工智能应用场景的涉密数据界定、分级、审查的实操标准。
我国大力推进“人工智能+”行动，推动人工智能与各行业深度融合。但产业快速落地的同时，人工智能保密管理机制相对滞后，风险隐患持续累积。一方面，人工智能应用对数据和第三方技术依赖较强，一旦数据传输、调用等环节监管缺失，极易引发数据安全风险。另一方面，人工智能技术迭代速度远超保密管理体系更新速度，涉密人员违规使用人工智能工具、留存涉密数据、算法分析泄密等新型风险频发，传统保密检查和风险防控手段难以有效应对。
二、安全保密管理工作面临的挑战
人工智能技术在赋能千行百业的同时，也对传统保密工作提出了新挑战。
（一）信息安全认知短板与防御困境
与传统信息安全时代的固定模式、单一攻击手段不同，人工智能驱动的攻击具有自主学习、动态迭代等特性，彻底打破了传统防御体系的运行逻辑。人工智能可通过大数据挖掘保密工作人员的工作习惯、操作规律甚至个人偏好，据此生成高度定制化的钓鱼脚本、伪装程序，实现“千人千面”的定向攻击。这种攻击方式贴合目标人员行为特征、隐蔽性极强，传统杀毒软件难以识别。
同时，人工智能可通过对抗性学习快速生成新型攻击代码，自动规避传统防火墙、入侵检测系统的已知特征库，实现“无特征攻击”，突破依托“已知威胁库”的传统被动防御逻辑，无法应对这种动态迭代的攻击手段。
此外，人工智能的普及大幅降低了攻击门槛，攻击者无须具备高深专业技能，仅借助人工智能攻击工具即可实施规模化、精准化攻击，这进一步加大了保密防御难度。同时，部分保密工作人员因对这类智能化攻击缺乏认知，仅凭传统经验应对，极易陷入攻击陷阱，最终导致涉密信息泄露。
（二）数据界定困难
传统信息时代的数据界定主要基于明确的数据分类分级标准，通过人工筛查即可完成敏感信息识别。而人工智能的核心特性——数据融合、深度挖掘、特征隐藏，使得数据界定面临独特挑战，其核心问题在于碎片化数据聚合分析后可能转化为涉密数据、敏感数据，这是传统信息安全领域不存在的新困境。
在数据采集方面，传感器采集、用户输入、网络爬虫等方式均会产生安全风险。例如，传感器采集数据可能包含我国关键信息基础设施运行状态、国防军事动态等敏感信息；用户输入数据可能包含个人隐私数据、商业机密等信息；网络爬虫数据来源广泛且监管难度较大，极易触及敏感信息边界，增加了保密工作的数据筛查难度。
在数据存储、加工方面，人工智能算法对数据进行清洗、转换与深度分析，使原本清晰的敏感数据特征被掩盖。人工智能算法凭借强大的关联、整合与深度分析能力，对数据进行复杂处理，进一步加剧了保密工作中对敏感数据识别、追踪与防护的困境，使数据界定变得极为困难。
（三）数据安全面临挑战
由于互联网开放程度高、开源数据缺乏监管，生成式人工智能使得涉密信息、敏感信息的保密难度进一步提高，一旦数据被非法窃取、深度分析，将造成难以弥补的严重损失。随着数据存储系统数量的持续增长，数据泄露风险急剧增加。针对数据传输，现有监测机制的实时监控流量、分析传输模式等功能难以有效应对新型复合攻击，无法精准识别异常。
在日益复杂的网络环境中，黑客利用网络协议漏洞发起的中间人攻击、数据劫持等网络攻击，往往难以得到及时有效处置。针对数据使用加工，使用质量不高的训练数据会直接影响结果的可靠性。若训练数据中存在恶意代码、虚假信息、病毒程序、干扰性数据等恶意攻击性数据，将产生数据泄露、篡改等风险，进而影响人工智能系统决策，同时有可能引发涉密系统安全事件。
（四）算法模型安全面临威胁
传统信息安全的攻击靶点多为硬件设备、基础软件系统，而对于人工智能时代，算法模型作为技术核心载体，直接成为涉密信息守护的关键防线，其安全与否直接关系到保密工作的成败。攻击者可借助逆向工程拆解模型，或通过提示词注入、越狱攻击等手段，诱导模型输出训练数据中的涉密内容，或反向还原训练数据中的涉密内容，进而窃取国家秘密与商业机密。
同时，大多数涉密领域使用的开源模型存在原生漏洞。攻击者可利用这些漏洞非法侵入保密系统，盗用模型知识产权非法牟利，甚至篡改保密系统配置或参数，影响保密系统的服务可用性，并盗窃其中存储的涉密数据。此外，合规保密模型若被违规滥用，可批量挖掘、处理隐蔽涉密信息，突破人工保密管控边界，这类模型安全风险直接威胁国家安全与社会稳定。
（五）人才队伍建设短期效益与长期发展的博弈
传统保密人才核心聚焦政策执行、人工筛查、常规防控等能力，而人工智能时代既需要相关人才严守保密纪律、熟知保密法规，更需要掌握人工智能技术原理、模型安全检测、智能风险识别等专业技能，这种双重素养要求是传统保密人才培养未涉及的新课题。
目前，高校保密专业多侧重传统知识教学，与人工智能、数据安全等学科交叉融合不足，难以输出适配岗位的复合型人才。在职保密人员长期接受传统培训，对人工智能攻击机理、模型安全等新知识掌握不足，短时间内难以转型提升；部分人员过度依赖人工智能工具辅助保密工作，逐渐弱化人工研判、风险警觉等核心能力，面对人工智能新型泄密风险时反应滞后、处置失当，短期效率提升与长期能力建设的矛盾凸显，人才储备不足直接导致保密工作应对乏力。
（六）保密监督审查面临困境
人工智能的大规模应用加剧了保密监督审查难度。人工智能的数据抓取行为复杂，数据输出形态多样，难以通过统一规范形式对其进行全流程监管；传统的源头数据管理方式应对此类数据效率较低，导致部分环节易出现监管缺失。
同时，保密技术的发展相对于人工智能技术的创新有一定滞后性，制约了监督审查效率的提升。人工智能借助日益强大的分析能力和处理能力，使得数据的安全边界不断拓展，更加难以兼顾数据的高效利用和安全防护。此外，人工智能的学习行为对模型用户及监管者往往不可见。当面对海量数据时，传统的审查手段通常依赖行为、图像、文字、声音等维度，无法对敏感及风险数据进行精准定位与有效监测，进一步限制了保密监督审查工作的效率。
三、完善安全保密管理工作的对策建议
为打破传统保密工作的局限性，需要从认知提升、数据规范、全流程防护、人才培育等多维度发力，构建系统性的保密应对体系，切实守护国家秘密安全。
（一）补齐认知防御短板，提升保密人员人工智能安全素养
重塑保密认知体系，将人工智能攻击特征、风险隐患识别、防御措施等课程纳入保密全员培训必修课，编制典型案例手册，定期开展实战化攻防演练和警示教育，破除工作人员传统保密思维定式，提升对智能化攻击的警觉性和识别力。更新岗位考核标准，把人工智能安全素养、应对新型风险的处置能力纳入履职考评，倒逼全员更新知识储备。
（二）细化数据界定标准，破解数据管控难题
建立全流程、精细化的数据界定与管控机制。出台人工智能场景下涉密敏感数据界定的政策标准，明确碎片化数据聚合研判、敏感特征还原的判定标准，划定数据采集、存储、加工的涉密边界，解决碎片化数据涉密属性难识别问题。规范多源数据采集管控，明确关键基础设施、国防军事等领域数据采集要求，严控爬虫数据抓取范围。研发敏感数据特征还原工具，在数据清洗、转换环节前置涉密筛查节点，实现涉密数据全程可识别、可追踪，从源头突破数据界定困境。
（三）强化全生命周期防护，筑牢数据安全保密屏障
针对数据存储、传输、使用加工等全生命周期安全风险，构建闭环防护体系。
数据存储环节，按涉密等级分级配置存储介质，升级高强度加密算法，细化人员访问权限，实行“一人一权、一事一授权”管理模式，严禁越权访问。数据传输环节，采用最新安全协议和量子加密技术，部署实时流量监测模块，精准识别异常传输行为，及时化解传输风险，保障数据传输安全。数据使用加工环节，建立人工智能训练数据准入审核制度，利用恶意数据清洗、查杀技术工具，过滤训练数据中的恶意代码、虚假干扰信息，严防恶意数据引发的涉密系统泄密、决策失误风险，实现数据全生命周期安全可控。
（四）攻坚算法模型安全，严防关键涉密载体泄密风险
针对算法模型逆向破解、漏洞入侵、违规滥用等特有风险，构建模型全生命周期的安全管控机制。
严把模型准入关口，对涉密领域使用的开源人工智能模型开展全方位安全审计，封堵原生漏洞，严禁未经检测的模型接入涉密系统；研发逆向工程防范、模型加密防护技术，防止攻击者拆解模型、还原涉密训练数据，守住国家秘密防线。强化模型使用管控，建立模型调用审批、全程留痕制度，运用区块链技术实现模型部署、迭代、使用的全程溯源，杜绝违规滥用、擅自挖掘涉密信息行为；组建模型安全运维团队，定期开展漏洞排查、安全加固，及时化解风险，保障算法模型安全。
（五）培育复合型保密人才，化解队伍建设供需矛盾
一方面，高校要继续深化产教融合，积极推动保密学科与人工智能、网络安全、信息技术等多学科交叉融合，组织业内专家参与教程编制工作，与企业合作共建科研实践基地，支持学生深度参与实践项目，定期组织师生赴企业开展科研实践和技术交流，强化教师教学水平，全方位提高学生的综合素养与实践能力。
另一方面，建立在职人员常态化培训机制，邀请资深专家和学者分享行业最新研究成果与实践经验，鼓励在职人员积极参与学术交流，并在培训经费上予以支持，助力其提升专业技能。同时，在人才培养过程中，注重激发创新活力，设立创新项目与科研课题，支持保密创新项目，开展竞赛、评选等活动，对优秀成果给予奖励，激励保密人才持续创新，为保密事业夯实人才基础。
（六）聚焦技术突破，推动保密技术创新与攻坚
首先，加大科研资源和资金投入，支持顶尖人才开展保密专用技术工具攻关研发。例如，研发基于深度学习算法的智能数据筛查系统，该系统可通过利用大量敏感数据样本学习训练，实现对文本、图像等多维数据中敏感信息的快速精准识别；持续推进加密技术的创新研究，优化升级现有加密算法，以有效抵御黑客攻击、恶意软件入侵等各种威胁。
其次，在数据特征分析模型中使用大数据分析、机器学习等前沿技术，从行为、图像、文字、声音等多维度深度挖掘数据关联与模式特征，以实现敏感及风险数据的精准定位和剔除。例如，通过分析用户操作行为数据，有效识别并预警异常数据访问行为。
最后，着重加强传统保密技术与区块链、量子加密、生物识别等新兴技术融合应用，利用区块链技术特性构建数据全流程追溯体系，确保数据完整性；采用量子加密技术强化传输信道安全，防止数据窃取；通过指纹、人脸等生物识别技术，提升身份认证的准确性与可靠性，并构建全方位、多层次的保密技术防护体系。
四、结 语
当前，我国虽已搭建起基础保密监管体系，但针对人工智能场景的专项规制、技术防控、人才培育仍存在明显短板，难以有效应对智能化、隐蔽化的泄密风险。本研究针对人工智能的安全挑战提出对策建议，以应对复杂多变的安全威胁，为数字化时代高质量发展提供坚实可靠的保密保障。（张伟系本文通信作者）
（本文刊登于《中国信息安全》杂志2026年第6期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
