文│中国法学会警察法学研究会会长 中国人民公安大学原党委书记、校长 程琳研究员
在2018年10月中央政治局集体学习时,习近平总书记强调，人工智能已经成为国家战略。今年，国务院总理李克强作的政府工作报告又专门讲了“智能+”。“智能+”就是要利用人工智能和互联网这个工具与平台，让经济、产业等更加走向实业、实体。“智能+”与实体结合更加紧密，不仅包括工业、经济实体，也包括社会管理、国防建设和军事斗争、军民融合等,都应与整个社会紧密地融为一体。同时，“智能+”涉及国家安全、政治安全、经济安全、国防军事安全、社会安全、产品安全、运行安全、使用安全、人民生命财产安全、医疗健康安全、个人数据信息隐私安全等方方面面。此外，“智能+”也可能会带来很多安全风险，面临许多严峻挑战。安全是“智能+”发展的前提和基础，应从现在起加强“智能+”的安全风险评估，建立健全依法保障人工智能快速顺利发展的安全同步共振体系。
一、积极做好人工智能安全风险评估
在人工智能快速发展的过程中，我们不能再走互联网发展重建设、轻应用、忽安全的老路，不能在人工智能建设发展起来以后出现安全问题，再去考虑如何保障安全。发展人工智能，应该把安全问题放在起始阶段，搞好顶层设计、总体规划。
在人工智能安全方面，应该认真地研究可能给人类社会带来的安全风险，要做好前瞻性研究，并进行科学的风险评估。例如，人工智能核心关键技术的掌握问题、人工智能的自主可控问题等。
在人工智能应用方面，我国的技术基础还有待提高，芯片等很多核心关键技术产品还依赖进口。特别是在人工智能工业体系方面，应用越来越多，所带来的安全问题也更多。军事领域无人机、人工智能的广泛应用，也会带来很多安全问题。人工智能应用也会带来社会安全治理问题，以及人与人工智能的交互带来的伦理道德问题。
人工智能应用可能对人类和社会安全带来的损害和法律责任问题，值得关注。例如，无人驾驶汽车出了交通事故后，驾驶员会说“我用的是自动驾驶自己根本掌控不了”，汽车制造厂会说“我们只负责制造”，也可能问题出在软件开发者或电信网络运营商方面，还可能是传感器问题。那么，法律责任问题究竟谁来负？
人工智能在设计时本身就可能存在缺陷，就好像互联网只能做到相对安全，无法做到绝对安全一样。网络犯罪已经占到整个社会犯罪的1/3，恐怖主义分子在实施恐怖活动的时候也利用网络。恐怖主义和犯罪分子会寻找人工智能的漏洞并进行攻击和破坏，因此，人工智能在设计建设时就应尽量避免漏洞和缺陷，防止并减少安全风险问题的发生。另外，有些决策等问题不能完全依靠人工智能的分析判断，人工智能主要通过计算统计、逻辑推理，却没有办法做到像人一样在思考分析问题时出现灵感、顿悟，如果过度依靠人工智能作决策，一定会带来安全风险。
在人工智能基础设施建设和安全保障方面，也存在很多安全风险问题。例如，光纤、5G网络的安全保障问题，包括光纤安全、5G芯片、操作系统、算法、基站等，都涉及基础设施安全问题。
人工智能大数据的安全保障问题。人工智能的广泛应用，会产生新的大量数据，这些数据在传输、存储、应用分析、转移、转让共享、出入国(境)等过程中，会涉及保障人工智能大数据隐私安全问题。另外，外资企业在我国研发、制造、应用人工智能收集的数据信息，也会涉及出入国(境)、转让、有偿服务等安全问题，这就需要关注如何保护我国公民个人数据信息隐私安全、如何保障涉及国家数据信息主权安全管理等问题。同时，要在实践中鼓励国产人工智能应用，在应用中去发现问题、解决问题。不用国产的人工智能技术，就永远进不了市场，技术和功能也得不到提高。需要强调的是，在应用过程中必须注意保障安全，安全是发展的前提。
上述这些问题都是人工智能可能带来的安全风险隐患，要从政策和法律上进一步明确，要依法保障人工智能的健康快速发展。因此，研究解决人工智能的安全风险问题显得越来越紧迫和重要，而且需要下大力气寻求突破和创新。
二、切实做好人工智能发展顶层设计
目前，许多部门、行业和企业都想上人工智能项目、搞研发、应用人工智能技术。在这种形势下，一定要保持清醒和冷静，千万不能一哄而上，不能搞多投、重复的研发建设，从而造成人、财、物的极大浪费，而是要根据社会需求和发展，搞好顶层设计规划，明确方向、目标及任务。
国家有关部门应该在国家发展战略指导下，明确人工智能具体在哪些领域、哪些行业重点发展，走哪条路径；国有企业和民营企业要按大方向大目标花大力气去研发建设。
要发挥国家制度体制和人才优势，统筹规划，加强基础设施、基本理论、基础技术的研究和建设，强化自主研发，掌握人工智能的核心关键技术，力争做到自主可控，保障安全。
要加强军民融合，根据军地需求及各自的人才和技术优势，做好研发和应用，充分发挥人工智能在强国强军中的作用。
要构建人工智能研发、建设、应用、管理、安全“五位一体”的同步共振体系，要吸取互联网建设发展的教训，要在人工智能的研发阶段、建设阶段、应用阶段、服务阶段、管理的全过程始终实现“五位一体”，要将安全嵌入其中，始终融为一体，不可分离。
人工智能发展离不开安全，但是，安全是看不见摸不着的，就好像人离不开氧气一样。如果人工智能发展离开了安全，必定失败，难以成功。人工智能从起始就要让安全与建设发展同步共振。
三、切实加强人工智能学科专业建设和人才培养
教育部已发文件，高校可设人工智能学科专业。一些高校积极地申报设立了人工智能学科专业，加强这方面的人才培养。
近些年，我国在人工智能基础理论、基础技术、学科专业体系和人才培养方面，还存在不足和困难。人工智能要作为一个学科专业发展，还有许多的工作要做。一定要突出人工智能的学科专业特色，加强学科的基础理论研究，科学构建学科专业的体系架构。
要改革人工智能人才培养的模式。人工智能是跨自然科学和社会科学的新型学科，如果按照传统的理工类或者社科类分别培养人工智能人才，难以满足人工智能对人才的需求。比如，人工智能模拟人的某些语言、思维过程、智能行为等，涉及语言学、心理学、哲学、数学、计算机科学、自然科学和社会科学等学科，必须针对人工智能的特点构建人工智能学科基础和学科体系，培养独具特色的高级专门技术人才。
要突出人工智能人才培养的特色和优势，要在培养高级专门人才上下功夫，尤其要在学科研究、学术带头人培养和专业人才队伍建设方面，狠下功夫。有资料表明，我国人工智能人才缺70万，因此，国家应加大投入，加强加快人才培养的力度，加速解决我国人工智能人才的短缺问题。
如果仅仅依靠高校，难以解决人才短缺问题，要通过职业和岗位培训，鼓励高校与行业、企业联合培养人才，鼓励在干中学，学中干。要加强人工智能学科专业对学生理论和实践能力的培养，学生一定要具备很强的实践动手能力，做到能文能武。
应加强与国际人工智能方面的交流和合作，尤其在学术和人才交流培养方面，应该进一步加强，不要起步差不多，跑一阵以后又掉下来了。人工智能要加速大发展，关键在人才，没有人才，人工智能难以发展起来。我们一定要坚持根据社会需求培养人才，社会和人工智能领域需要什么样的人才，就应加大力度培养什么样的人才，从而促进人工智能的大力发展。
（本文刊登于《中国信息安全》杂志2019年第5期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
