一 信息内容安全产业范畴

（一）信息内容安全产业的界定

信息内容安全产业可以界定为紧密围绕信息内容安全场景和目的，由利益相关主体培育和发展起来的业态整体。狭义的信息内容安全产业包括三个方面：一是信息内容的传播安全，如违法有害信息监控、网络舆情监测、敏感事件挖掘等；二是信息内容的访问控制，如网络协议恢复、病毒防护、数据流量监测、反垃圾邮件等；三是信息内容的反泄密，如个人隐私保护、重要数据保护等。广义的信息内容安全产业还应包括支撑整个信息内容安全产业所涉及的下层传统信息安全相关部分，如数据安全、运行安全、物理安全等。结合我国信息内容安全实践，本文侧重于狭义的信息内容安全产业研究。

（二）信息内容安全技术及产品分类

基于狭义的信息内容安全产业定义，信息内容安全技术大致包含两大类：第一类是一般性基础技术，是指信息安全常用的共性技术，主要包括网络信息采集还原，如通信信息镜像、网络数据重组、协议数据恢复等；内容分析识别，如内容识别与特征提取、信息分类与检索、语义内容分析等；内容过滤阻断，如网络数据包内容过滤、基于存储转发的网络阻断等；网络信息溯源，如主动询问溯源、路径重构溯源、信息内容审计等技术。第二类是应用技术，指面向信息内容安全特定场景，针对特定的信息内容获取或分析的技术，如舆情计算、情报分析、数字取证、社会网络分析等技术。本文主要关注应用层面的技术。

信息内容安全产品依据不同的标准具有不同的分类方式。基于服务环节，可分为信息内容采集还原、分析识别、传输阻断、溯源取证等类别，目前市面上的产品往往覆盖了多个甚至全部的服务环节，独立产品较少。基于服务目的，可分为信息内容合规、反欺诈、反泄密和安全咨询与集成等类别。后一种分类方式更贴合信息内容安全应用需求，是目前企业大都接受或采用的分类方式。

二 国内外信息内容安全产业现状

（一）全球信息内容安全产业规模持续增长，分布区域相对集中

综合分析Gartner、IDC、PMR等国际咨询机构和国内有关研究机构对信息内容安全产业的相关统计数据，在产业规模方面，全球信息内容安全产业规模保持了较快的增长势头， 2018年全球信息内容安全产业收入约为1400-1600亿元，2020年将达到1600-2000亿元[1]。在产业结构方面，北美、西欧和亚太地区在全球信息内容产业中占据主导地位，总比达90%左右，其中北美占比接近40%，西欧和亚太地区占比均超过了20%[2]，但在信息内容安全产业总体规模增长的情况下，其他地区产业发展也呈现出强劲的增长势头，占比逐步扩大。根据国际网络安全投资咨询机构 Cybersecurity Ventures发布的《2018全球网络安全创新500企业》，按地区分，美国公司上榜最多，共有358家；其次是以色列公司，共计42家；欧洲地区有67家公司上榜；亚洲地区有20家公司上榜，其中中国企业有8家。

（二）我国信息内容安全产业初具规模，产业增速领先全球平均水平

结合国内咨询机构和企业走访调研数据的统计分析，2018年我国信息内容安全产业收入约为153亿元人民币，从2012年至今，我国信息内容安全产业年均复合增长已超过20%，是全球产业年复合增速的2倍以上[3]。从全球整体规模占比来看，我国信息内容安全产业已经初具规模，约占亚太地区的7%[4]。2017年，我国以360企业安全、启明星辰、华为、深信服、绿盟科技、亚信安全、新华三、天融信、安恒信息、卫士通等为代表的中国前50强网络安全企业，其收入增长率与2016年相比超过30%[5]。

（三）国内外信息内容安全产品应用领域较为集中和固化

从国外公开信息看，信息内容安全技术与产品的典型应用主要集中在国外政府或相关支撑机构，以服务于政府管理需要为主。如美国FBI主导面向嫌疑学生的信息追查项目“StrikBack”，英国政府主导的电子邮件监听项目“RIP”等。

与国外情况类似，我国的产品需求方或使用方主要集中在大型网络服务企业或网络运营企业，这些企业为贯彻落实政府对于信息内容安全的基本要求，履行企业信息安全责任，在硬件、软件等设备或系统等相关环节需采购符合信息内容安全责任规定的产品和服务。明确的市场需求条件导致产品形态相对固化，主要集中在上网行为管理、安全审计、违法信息监测、公共舆情监测和网络取证等方面。此外，我国大量基于用户生成内容的中小网站，诸如论坛、社交网站、视频网站等也是产品服务的重要需求方，但目前总体规模较小。

三 国外政府培育信息内容安全产业的经验和做法

（一）将促进产业发展纳入国家网络安全战略

截至目前，全球60多个国家发布了网络安全战略，均将促进网络信息安全产业发展作为重要内容。各国的国家安全战略对产业培育的主要举措包括：一是制定促进产业长期发展的技术与政策路线图，给予企业界稳定的产业环境预期，美国政府发布2016年《网络空间安全国家行动计划》，明确建立“国家网络安全促进委员会”，由顶尖的企业与技术专家组成，部分人员由国会任命，共同勾勒出一份为期十年、涵盖公私两方面的网络安全技术、政策发展路线图。二是成立专职机构统筹协调产业发展目标，促进产业合作。如2016年11月，英国发布新版《国家网络安全战略（2016-2021）》，提出成立两个新的网络创新中心，以推动先进网络信息安全产品和公司的发展，并拨款1.65亿英镑设立国防和网络创新基金，以支持国防和安全领域的创新采购。三是通过设立基金或政府资助的形式，为企业提供创新发展的资金支持。如2016年，以色列推出了升级版的国家网络安全产业发展计划“KIDMA2.0”，通过精选突破性和颠覆性技术研发的企业，给予长达4年的大额补贴，同时，针对急需产品创新和概念验证的申请者，给予为期1年的资助，并帮助其培育国内外用户。四是以立法形式强化监管，间接拓展了产业发展空间。如德国2017年6月通过了《改进社交网络中的法律执行的法案》（简称《网络执行法》）通过巨额罚款威慑，敦促符合条件的社交媒体平台透明、高效处置违法有害信息内容，这种强监管政策也将扩大市场需求，带动产业发展。

（二）加大政府专项资金投入，加快规模化集聚

各国以国家网络安全支出或政府网络安全项目为牵引，加大在网络信息安全方面的资金投入，进而扩大网络信息安全产业需求规模，促进本国产业规模和企业产品供给能力的发展壮大。同时，各国也结合本国国情采取措施保护本国产业发展、加速本国产业规模化集聚。美国的产业促进措施侧重对关键技术和核心产业的保护，一是以政府安全项目和购买服务等方式促进专业安全技术公司的发展；二是限制和阻止国外企业对本国安全技术企业的并购；三是限制核心安全技术的转移；四是积极支持国内安全企业的对外并购。相比之下，以色列的安全产业发展则另辟蹊径：一是围绕本国重要大学建立网络安全产业园，借助大学的人才培养和研发力量，为本国安全企业发展提供技术和人才基础；二是在产业园发展中积极吸纳社会风险投资，为安全企业提供资金支持；三是以政企合作等方式，帮助企业寻找国内或国外用户，开展产品验证和应用推广；同时，产业园的产业集聚性作用，本身也为各类安全企业的产品研发、市场推广等企业间合作提供了有利的环境。

（三）加强网络安全人才培养，强化产业发展保障

网络安全产业的竞争归根结底是人才的竞争，各国都高度重视人才培养，人才培育措施主要集中在五个方面：一是将安全人才培养纳入国家战略进行长期规划，如欧盟、俄罗斯等国都分别在网络安全战略中明确要求开展网络信息安全教育培训，构建网络信息安全人才培养体系。二是结合本国安全产业发展需要，明确人才技能培训要求，规范遴选、培养的流程和方法，实现人才的规模化培养和供需匹配；如美国、英国均发布了信息安全人力资源或认证框架，明确了人才技能培养的推荐性规范要求。三是政企联合培养，建立多元化人才培养机制；如英国部署英国情报中心与相关安全企业合作建立网络安全研究院，共同开展人才教育培训工作。四是创新优秀人才获取渠道，如英国对已被定罪的计算机黑客进行安全审查，合格后可在联合网络储备局任职；澳大利亚安全部门直接招聘网络技术高手和黑客，参与国家网络信息安全保障。

（四）积极推广人工智能应用，提高技术处理能力

人工智能在网络信息安全领域的应用引起了发达国家的高度重视，很多国家基于自身形势和发展优势，积极进行战略布局，并通过国家法规、行业自律等形式推动人工智能技术在信息内容安全领域的应用。美国国会发起提案，建议成立“国家人工智能安全委员会”，并将制定《2018年国家安全委员会人工智能法》，对人工智能安全应用进行战略布局，以满足美国国家安全需要；欧盟推出新法规，要求社交媒体公司在接到通知后一小时内删除恐怖分子的帖子，否则将面临罚款，人工智能技术可帮助公司提高检测和删除帖子的及时性，更好的遵守相关法律法规要求；美国国家自杀预防组织与科技公司合作，通过人工智能技术识别自杀直播视频，救助有自杀倾向的用户。人工智能等新兴技术在网络信息安全领域的推广应用，既催生出新的产品，也提高了传统产业的技术处理能力，对信息内容安全产业发展产生推动作用。

四 我国信息内容安全产业面临的问题

（一）产业规模和创新能力存在不足

从产业规模看，虽然我国信息内容安全产业经过长期发展，形成了一定规模，但是在全球市场的占比并不高，仅为1.5%，高度集中在国内市场，与我国作为全球第二大数字经济体的现实地位相比，仍存在明显的差距。从企业能力看，根据Cybersecurity Ventures公布的2018年网络安全公司500强榜单，国内上榜企业仅有8家，与信息内容安全密切相关的国内企业有4家，排名前25的企业中，国内信息内容安全企业无一上榜。

（二）产品形态高度碎片化

由于信息内容安全具有场景多样化、贴近业务化的特点，很大程度上导致了信息内容安全产品差异化和市场碎片化。结合产品分类看，现有的信息内容合规类产品细分为不良信息监测处置、舆情监测、上网行为管理；信息内容反欺诈类产品又分为邮件安全、欺诈信息过滤、反钓鱼、网页防篡改；信息内容反泄密类产品则分为信息加密、文件安全管理、安全监控审计等。供应这些典型产品的厂商超过20余家，各个厂商的产品在形态和具体功能上存在较大差异，难以形成较为集中统一的信息内容安全市场，也不利于大型信息内容安全企业的规模化成长。

（三）产业内生发展动力有待激发

2017年，我国《网络安全法》正式实施，互联网信息内容治理工作进入新阶段，网信、公安、工信、全国“扫黄打非”等部门依法加大了网络环境治理工作力度，先后开展“净网2017”、“秋风2017”、“护苗2017”等专项行动，关停网站、公众号等违法违规主体6000余个，关闭违法内容网站6万多个，为营造风清气正的网络文化环境提供了有力支撑。在政府管理部门的有力推动下，互联网企业的信息内容安全责任意识也得到明显增强，无论在招聘信息内容安全审核人员，还是购买信息内容安全产品方面，都加大了对信息内容安全管理的投入，进而带动了信息内容安全需求迅速增长，部分科技媒体和企业甚至将2017年视为是信息内容安全产业发展的元年。然而，如何进一步巩固和强化企业的信息内容安全责任意识，形成驱动信息内容安全产业可持续发展的内生动力仍有待探索。

（四）技术和产业瓶颈凸显

从技术发展看，人工智能技术已成为信息内容安全的重要方向，为信息内容识别、分析和智能化处理类产品提供了创新突破的动力；但市场上基于人工智能的信息内容安全产品在实际应用时，识别准确率有限，现阶段难以完全实现审核自动化。根据中国信息通信研究院《有害信息识别技术与产业发展报告》显示，针对国内主流企业基于人工智能技术的色情图片识别服务，其测试的成功识别率为30%-50%；从产业发展看，信息内容安全产业集中度相对较低，大多数安全企业限于既定市场分工，没有出现竞争活跃的现象；加之信息内容安全的敏感性、不透明性，企业间合作较少，产业链上下游缺乏良性互动，难以形成联动发展模式。

（五）产业集聚和人才建设等配套环境滞后

结合各国产业培育的实践看，以产业园为主要依托推进产业集聚，对于推动企业规模化发展、降低成本、提高创新能力具有重要作用。近几年，北京、天津、成都、上海等不少地区开始筹建信息安全产业园区，但大多处于起步阶段，已建成的不多，入驻企业几乎均不超过百家；同时，产业园区配套政策与服务也集中在财税、土地、人才、资金等方面，与一般高新技术产业扶持政策和服务并无区别，缺乏针对性，因此，产业园区难以发挥集聚效应。人才供需不匹配，国内网络信息安全人才培养体系初步建立，特别是在人才总量、结构和培养体系方面仍滞后于产业发展需求。

五 促进我国信息内容安全产业发展的建议

（一）激发内生动力，优化供给结构

当前，互联网企业的信息内容安全责任意识正逐步增强，网民对违法信息内容危害的认识日趋深化，自发参与信息内容安全治理与维护自身权益的行为持续涌现，一方面要通过评选信息内容安全试点示范和发布最佳实践等方式，鼓励和支持相关互联网企业加大信息内容安全管理方面的资源投入，将确保信息内容安全转化为企业发展的内生需求。另一方面，应以未成年人保护、打击虚假信息等民生领域信息内容安全为切入点，通过第三方非营利性组织引导社会公益资本和人员力量参与治理。同时，在优化供给结构方面，探索推进信息内容安全产品和服务的认证工作等方式，引导相关需求企业采购服务好、质量高、技术先进的信息内容安全产品和服务，促进信息内容安全需求规模化、集中化，进一步提高企业产品质量和技术服务水平。

（二）推进信息共享，优化资源组合

在优化供给和强化协同方面，可积极组建产业联盟，凝聚行业内科研机构、企事业单位、高等院校与专家力量，通过信息共享与产业合作，提升信息内容安全产业透明度，集中政产学研各方力量共同发掘产业发展新空间。同时，可依托研究机构、高校等建设信息内容安全产业孵化基地和产业园，整合学术界、产业界、政府部门和创新企业的优质资源，构建由技术产品研发、配套保障政策、园区管理组织、产业交流平台、人才培养制度等各种要素组成的网络生态系统，加大政府重大信息内容安全工程向产业园区内企业的政策倾斜，企业、政府、基地等共同推进技术成果产业化的反馈循环机制，保障创新成果转化的实用价值。

（三）攻坚关键技术，强化人才保障

基于信息内容安全产业发展的关键影响因素，应结合人工智能等新技术发展，通过设立重大专项，重点在事件预测、舆情分析、内容审查等信息内容安全应用的主要领域，鼓励和支持企业开展技术攻关和产业化应用，提升信息内容安全技术和应用创新能力。同时，加快构建可持续发展的人才培养体系，明确信息内容安全重点专业人才培养方向，推进人才评定机制建设，构建人力资源池，形成网络信息安全人才储备体系。

注：

[1] 搜狐网网络与计算安全，2018年全球网络安全产业发展现状与前景，https://www.sohu.com/a/237414847_653604。

[2] 根据Gartner发布“全球网络安全产业规模发展情况及趋势预测（http://www.freebuf.com/articles/paper/167137.html）” 及调研中企业反映网络安全产业与信息安全产业规模大约为4:1测算而得。

[3] 根据中国信息通信研究院公开发布的《网络安全产业白皮书（2018）》及部分公开研究报告，结合调研中企业反映网络安全产业与信息安全产业规模大约为4:1测算而得。

[4] 根据中国信息通信研究院公开发布的《网络安全产业白皮书（2018）》及部分公开研究报告，以及Gartner发布的“全球网络安全产业规模发展情况及趋势预测”结合调研中企业反映网络安全产业与信息安全产业的比例大约为4:1测算而得。

[5] 安全牛，《中国网络安全企业50强》（2018年上半年）。

（作者：中国信息通信研究院安全研究所 张琳琳 王远桂 彭志艺 闫希敏）

声明：本文来自互联网新技术新业务安全评估中心，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。