2017年7月,国务院印发《新一代人工智能发展规划》,对我国未来人工智能工作提出了明确要求。今年政府工作报告提出:“深化大数据、人工智能等研发应用,培育新一代信息技术、高端装备、生物医药、新能源汽车、新材料等新兴产业集群,壮大数字经济。”这是自2017年“人工智能”首次出现在政府工作报告后,连续三年被写入报告。

2017年,李克强总理在政府工作报告中提出:全面实施战略性新兴产业发展规划,加快新材料、新能源、人工智能、集成电路、生物制药、第五代移动通信等技术研发和转化,做大做强产业集群。

2018年,人工智能再次写入政府工作报告:做大做强新兴产业集群,实施大数据发展行动,加强新一代人工智能研发应用,在医疗、养老、教育、文化、体育等多领域推进“互联网+”。

今年的政府工作报告将人工智能升级为“智能+”。3月5日上午,国务院总理李克强作政府工作报告时称,要打造工业互联网平台,拓展“智能+”,为制造业转型升级赋能。

普华永道相关报告显示,在人工智能的拉动下,到2030年,全球 GDP 将实现14%的增量,差不多相当于 15.7 万亿美元。AI+安防、智能交通、智慧农业、智慧医疗、金融科技以及智能制造,已然成为受益于AI红利的典型产业。因此,人工智能被高声量地宣布成为未来发展的竞争焦点。近年来,各国都陆续发布了人工智能战略、政策及相关文件。

2016年,美国白宫接连发布三份人工智能发展报告:10月13日,美国白宫科技政策办公室(OSTP)下属国家科学技术委员会(NSTC)发布了《为人工智能的未来做好准备》和《国家人工智能研究与发展战略计划》两份重要报告,详细描述具体战略和路线图;12月20日,美国白宫发布了《人工智能、自动化与经济报告》,报告中提出“人工智能的时代即将来临,敦促国会议员应该设法让美国经济为此做好准备”。日本在《日本再兴战略 2016》中,明确提出实现第四次产业革命的具体措施,将物联网(IoT)、人工智能(AI)和机器人作为第四次产业革命的核心。

2017年7月20日,国务院印发了《新一代人工智能发展规划》。规划中提到分三步走。第一步,到 2020 年人工智能总体技术和应用与世界先进水平同步,人工智能产业成为新的重要经济增长点,人工智能技术应用成为改善民生的新途径,有力支撑进入创新型国家行列和实现全面建成小康社会的奋斗目标。第二步,到 2025 年人工智能基础理论实现重大突破,部分技术与应用达到世界领先水平,人工智能成为带动我国产业升级和经济转型的主要动力,智能社会建设取得积极进展。第三步,到 2030 年人工智能理论、技术与应用总体达到世界领先水平,成为世界主要人工智能创新中心,智能经济、智能社会取得明显成效,为跻身创新型国家前列和经济强国奠定重要基础。2017年12月,《促进新一代人工智能产业发展三年行动计划(2018-2020 年)》的发布,它作为对7月发布的《新一代人工智能发展规划》的补充,详细规划了人工智能在未来三年的重点发展方向和目标,每个方向的目标都做了非常细致的量化。

同年,加拿大、新加坡、阿联酋、爱沙尼亚、爱尔兰和芬兰等国家分别发布了AI战略或者相关政策文件。

2018年,英国、法国、印度、韩国、丹麦、德国、墨西哥、澳大利亚、意大利、瑞典、奥地利、俄罗斯、新西兰、突尼斯和肯尼亚等国家也发布了各自的AI战略或者相关政策文件。

随着人工智能的全球化发展,人工智能安全问题也超越了国家边界,成为人类必须共同面对的挑战。

挑战一 人工智能伦理研究,法制建设

2018年12月18日,欧盟委员会的人工智能高级别专家组(High-Level Expert Group on AI,简称AI HLEG)正式发布《可信人工智能伦理指南》(Draft Ethics Guidelines for Trustworthy AI)草案。专家组将启动利益相关方磋商机制,收集各方对初稿的意见,以进一步完善初稿内容。计划于2019年3月发布《可信人工智能伦理指南》的正式版文档,并且在2019年5月发布《可信人工智能的政策和投资建议》。草案认为,“可信人工智能”应该包括如下两个要素:

1. 它应该尊重基本权利、规章制度,以及核心原则及价值,以确保“伦理目标”;

2. 它应该基于技术的强健与可靠。因为,即便是出于良好意愿,如果缺乏对科技的把控,无意的伤害也可能会发生。

类似的思考和谈论也发生在欧盟之外。随着技术的发展和应用的普及,机器会像人类一样去思考的行动。那么,如何从底层算法和架构开始,给予“对”与“错”的判断和衡量,在产品设计和业务运营中贯彻人工智能伦理原则?如何确定人工智能产品或者系统的法律主体、权利、义务和责任?又如何以道德伦理、法律法规等对人工智能的演进方向予以指导、制约和保障?

全国人大常委会已将一些与人工智能密切相关的立法项目,如数字安全法、个人信息保护法和修改科学技术进步法等,列入本届五年的立法规划。同时把人工智能方面立法列入抓紧研究项目,围绕相关法律问题进行深入的调查论证,努力使人工智能创新发展,努力为人工智能的创新发展提供有力的法治保障。

挑战二 人工智能安全标准亟待建设

2017年10月,国际标准化组织ISO/IEC JTC1在俄罗斯召开会议,决定JTC1新成立人工智能的分委员会SC42,负责人工智能标准化工作,SC42将建立基础标准(Foundational Standards)、计算方法(Computational Methods)、可信赖(Trustworthiness)、社会关注(Societal Concerns)4个工作组,并将ISO/IEC JTC1 WG9(大数据工作组)放到人工智能SC42。

在自动驾驶领域,国际和国外标准组织也陆续出台相关标准。2012年欧洲电信标准化协会(ETSI)发布ETSI TS 102941《智能交通系统可信和隐私管理》;2014年美国国家标准技术研究院(NIST)发布《车联网网络攻击防护安全框架》;2016年美国汽车工程师学会(SAE)发布SAE J3061《信息物理汽车系统网络安全指南》。

然而,标准因其涵盖对象广、流程严谨,且需要和相关其他标准形成体系化对应及支撑,不能够及时满足市场需求。另外,机器学习的深度和速度,在某种未知的程度上,恐怕远超于标准可以支撑的范畴。

挑战三 各国人工智能安全重点不同

不同国家的政府,因其发展现状、远景规划的不同,在人工智能安全方面的侧重点也有所不同。这就决定了该国在相关领域的投入、处理问题的优先级都存在差异。例如,美国、中国、英国、法国都表示认可“提高人工智能研发基金”;但中国、英国、法国都明确对数字基础设施提供投资支持,加强网络安全能力建设,支持数字和AI领域道德伦理建设;而这几点,在美国相关文件中并未提及。中国和英国都对中小企业发展予以支持,这一点上,美国和法国没有明确表示。

挑战四 隐私保护更为迫切

人工智能的发展建立在大数据之上。对各种数据的采集、分析、应用,使得人工智能不仅可能掌握个人的身份信息,更能通过生物识别、个人偏好、行为记录等对个人明确识别,甚至比用户自己更加了解自己。这些信息能否得到正确、严格的保护,让人不得不为之担心。

2019年初,国内某人脸识别公司发生大规模数据泄露事件。超过250万人的数据可被获取,680万条记录泄露,其中包括身份证信息,人脸识别图像及捕捉地点等。由于人脸、指纹、虹膜等生物特征不可再生,在人工智能迅猛发展的今天,“隐私保护”和“数据安全”应该被提上更为重要和迫切的议程。

挑战五 人工智能安全人才存在缺口

人工智能安全人才从整体上来看,其需求呈现倍数级增长。

一是随着人工智能赋能传统产业,既了解业务又懂AI安全的人才明显稀缺。对算法的掌控、技术的对接、客户需求的理解、应用模块的稳定和成熟等等,都对人工智能安全人才提出诸多要求;

二是人工智能安全人才发展分化,高端需求强劲,基础层、技术层人才供给不足。与发达国家相比,很多国家人工智能整体发展水平缺少重大原创成果,在基础理论、核心算法以及关键设备、高端芯片、重大产品与系统、基础材料、元器件、软件与接口等方面还存在很大的差距;

三是人工智能应用日益细分,安全类人才成长周期长,人才引入和流动都需要移植适应期;

四是无论是高校、研究院所,还是企业,整体对于人工智能人才的培养资金,与发达国家相比,有着明显不足。

 

面对诸多挑战,我们将如何应对?2019年3月15日,主题为“人工智能安全”的第九期网络安全创新发展高端论坛将在上海(新锦江大酒店4F白玉兰厅)召开。届时,相关管理部门、科研机构、企业单位等权威专家将展开深入研讨。

扫码报名

 

声明:本文来自国信安全研究院,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如需转载,请联系原作者获取授权。