知远战略与防务研究所 威远/编译
[知远导读]本文编辑节选自俄罗斯国际事务委员会网站2018年11月发表的题为《人工智能的发展前景和可能后果》的文章。文中主要介绍了当今世界人工智能技术的发展现状、未来趋势以及其可能导致的国际和社会后果。文章认为，当前，人工智能还处于“弱人工智能”发展阶段，但已经对个人、社会和国家安全构成足够的潜在威胁。当前人工智能技术发展面临的最大问题包括“人工智能民族主义”和“人工智能国家化”。同时，人工智能技术和第四次工业革命将对社会职业发展、法律伦理产生难以预测的巨大影响。
冷战结束后，美国实际上获得了不可超越的超级大国地位。重要原因就是其独一无二的军事技术优势。但是，美国军队国防过去所依赖的技术，例如高精度武器等，因为全球化和技术转让已经传播至全世界。结果美国的竞争对手发展了本国的能力，且越来越对美国的军事优势构成挑战。
美国国防部为了在将来保持并扩大自身军事优势，寄希望于人工智能技术，该技术在军事领域的潜在应用可能性非常多样：从提升后勤系统的效能到一些更加敏感的任务，比如现代武器系统中的自动化指挥和控制。美国在2018年国防战略中指出，人工智能很可能将改变战争性质。按国防部副部长帕特里克·沙纳汉的话说，美国“应当敢于并准备使用人工智能技术”。
有理由相信，前谷歌和Alphabet领导人埃里克·施密特号召重视“人工智能领域的‘卫星事件’已经发生”（卫星事件指上世纪苏联发射首颗卫星震惊了当时的美国领导层）这一事实已经得到了美国政府的重视。
美国国防部长詹姆斯·马蒂斯号召总统特朗普不仅仅是为美国政府，而是为“整个国家”制定人工智能技术发展战略。马蒂斯向总统提出的号召中包括组建总统委员会的建议，以“激励整个国家让美国不仅成为国防领域的世界领袖，还要成为人类生活全方位深刻变革的引领者”。为响应这一号召，“美国白宫2018年美国工业人工智能峰会”宣布，特朗普政府“优先资助人工智能、机器学习和自主系统的基础研究和计算设施”。
2018年7月31日，白宫向各部、署负责人发布M-18-22号关于2019-2020年研究与开发预算优先方向的备忘录，该份备忘录将人工智能称为国家三大最高技术优先方向的首要方向（第二位是量子信息学，第三位是超级计算），责成美国行政管理和预算局（OMB）联合科技政策办公室（OSTP）保证所有联邦部署2019-2020年预算优先用于上述方向。
实际上，2018年感受到“卫星事件”的不仅仅是美国政府。
与2017年相比，宣布国家人工智能发展战略的国家数量提高了2倍多。
2017年，人工智能积极分子（日本，加拿大和新加坡）开启了国家人工智能战略签署进程。紧随其后的是对人工智能予以大力财政支持，寻求世界人工智能领域领导地位两大国家之一的中国。
而2018年，还没到年末，公布国家人工智能领域战略的国家已经不胜枚举，巴西、德国、法国等诸多国家已经提出了自己的战略。
Politics +AI编写的名为《国内人工智能策略综述》（An Overview of National AI Strategies）的报告，对各国国家战略的细节和特点进行了简要描述。不出所料，各国在各自的国家人工智能战略中制定了不同的目标和策略。
受各国政府委托所制定文件的编制、细化水平，篇幅也各不一样。
日本的战略看起来最简洁（25页）和具体，包括对2030年前建立国家人工智能系统三阶段的基本描述。
这一基本方案还附加了三个优先方向的路线图：生产效能，医疗和健康，流动性。
还制定了三个主要经济领域优先方向（生产效能，医疗和健康，流动性）人工智能技术融合计划。融合的三个阶段显示了技术进步的水平和社会变化的水平。
英国的方案看起来是最详细的，包括以下文件：
180页的报告《英国人工智能发展的计划、能力与志向》（AIin the UK: ready, willing and able?），由英国上议院于2018年4月公布，其观点在很大程度上与南安普顿大学计算机科学教授Dame Wendy Hall和Benevolent AI公司首席执行官Jerome Pesenti博士77页报告《在英国发展人工智能》（Growing the Artificial Intelligence Industry in the UK）的观点相斥。
2卷专家和学者证明报告观点的书面及口头证据（第1卷包括223份，共1581页的书面证据，第2卷包括57份，在22次会议中记录的423页口头证据）。
政府对英国上议院向议会，商务、能源和工业大臣（Secretary of State for Business, Energy and Industrial Strategy by Command of Her Majesty）提交报告和证据的40页答复。
是什么让20多个多家共同展望人工智能的未来，如今已经形成各种各样的文件：从计划和路线图（比如日本）到具体责成政府的“司法判决”（比如英国）？
认真研究所有这些2018年8月底前公布的文件，笔者发现了所有这些“国家战略”中两个明显的关键趋势：
1.人工智能民族主义方向
2.人工智能国家化方向
现在来讲一讲它们的具体涵义。
人工智能民族主义
人工智能民族主义的第一个根源——超高的预期
人工智能民族主义这一术语是在伊恩·贺加斯（Ian Hogarth）的同名文章《人工智能民族主义》（AI Nationalism）发表后开始流行的。在这篇短文中，人工智能民族主义被定义为：“一种新型地缘政治，因近年来人工智能的迅猛发展而在发达国家中迅速扩张”。
人工智能在国家层面和国际层面引发了新的不稳定，迫使发达国家政府采取行动，以不至于在世界对掌控人工智能优势的新一轮竞争中处于不利地位。
这一竞争独具特色，且不同于以往任何一次，包括在核炸弹和洲际导弹方面的竞争。
人工智能的独特性是由两个方面因素决定的——1个经济方面因素和2个军事方面因素。
1.人工智能设备的多功能性，能够提升几乎所有后工业化领域和活动的效率（最近的通用性典型就是电的普及应用）；
2.基于以往军事经验，推断人工智能的潜力将导致革命性突破：
首先是研发出全新的军事技术系统方案（比如提升战车的雷达、红外及在其它方面的隐身性能——隐身技术）。
其次是基于人工智能技术，研制更加先进的战区军事报知系统、军事后勤和战斗指挥系统（包括改变各兵种传统的模式，比如，航母从侦察机，甲板炮，引导飞机的运输船成为一个浮动机场，能够非常有效地独立遂行军事任务）。
3.更加有效解决核遏制问题（根据古时候牛仔的智慧，重要的是要善于先敌开枪）的可能性（虽然还未能证实，但很多军人已经慎重地认识到）。
上述因素在很大程度上是假设性的。他们不反映人工智能技术现在已经达到的实际能力水平，只不过是按照现在的发展速度，人工智能技术在不久的将来可能达到的高度。
换句话说，这三个将人工智能变成国际舞台上可能优势的因素，目前只不过是军人和政治家的预期。
但这丝毫也不影响他们认定，世界正处在新的“奇点”，军事上的。人工智能领域的领导者——美国和中国对此有多么重视，新美国安全中心（CNAS）的报告《战场奇点》（Battlefield Singularity）进行了说明。让人震惊的不仅仅是报告的逻辑和分析，还包括报告所引用美国和中国的334份资料文献。
人工智能民族主义的第二个根源——技术纠缠
人工智能史无前例的重要性可能使该领域的政策成为国家政策中最关键的要素。然而，人工智能技术却出现了特有的，极其困难的问题，即所谓的技术纠缠（Technological entanglement）。
技术纠缠是指在全球化进程中，国际公司在研究军民两用技术时，利益和资源密切、全方位交织现象的出现和巩固。
技术纠缠导致的结果是技术主权概念的消失。即便是像美国这样在人工智能领域毫无争议地处于领导地位的国家，在技术纠缠情况下，也处于非常困难的境地。
在以下事实情况下，美国如何在人工智能领域保持领先地位，防止自身技术被泄露给竞争者：
美国的技术引擎是私人公司；
在全球化背景下，像Alphabet这样的国际私人商业巨头在该领域主要竞争国——中国国内拥有自己的人工智能研究实验室，并雇佣成千上万的中国专家为其工作；
中国投资者，包括中国最大的人工智能公司，拥有硅谷人工智能领域最有前途公司的股份；
中国成千上万的大学生和研究生在美国最好的大学学习。
技术纠缠的最后，也是最关键的“一圈”就是中国宣布的“军民融合”国家战略（National Strategy for military-civil fusion），融合中国私人公司和国家机关的利益和资源。
信息技术与创新基金会（Information Technology and Innovation Foundation）主席罗伯特·阿特金森2018年7月26日在National Review发表的文章中，概括了因技术纠缠而导致的情况。
中国展开了广泛的“创新重商主义者”实践，旨在通过不公平手段，使中国生产者获取优势。具体包括：
要求外国公司要想进入中国市场，必须向中国公司转移技术；
获取外国知识产权；
操纵技术标准；
大量的国家补贴；
政府支持收购外国企业。
美国当前在贸易-技术领域政策的唯一目标就是：终结中国威胁美国国家和经济安全的创新-重商主义政策。
因此，对人工智能保证国家在国际舞台上优势能力的过高期待，以及日益加剧的技术纠缠，成为部分国家滋生技术民族主义的主要根源，且这种国家的数量还在增加。
可能的后果是——国家采取尽可能的保护行为，以保持自己在人工智能领域的领先地位，限制（甚至可能变成禁止）专利转让、公开发布研究成果、出口人工智能技术，限制（甚至可能禁止）企业并购、投资自由流动以及人才在学习以及工作中的流动。
谁是人工智能民族主义的先锋
截至2018年8月底，以各种不同形式宣称将采取人工智能民族主义的国家包括：中国、美国、印度、英国和法国。这五个国家还宣布正在制定基于人工智能的国家军事计划。
中国——国家“十三五”规划，“十三五”国家科技创新规划“人工智能2.0”计划，“促进新一代人工智能产业发展三年行动计划（2018-2020年）”，所有这些计划都处于国家军民融合战略统一框架下。
美国——国家安全战略，国防战略和国防部副部长2018年6月27日发布的关于建立国防部联合人工智能中心（JAIC）的备忘录。
印度——NITI Aayog分析中心为印度政府制定的国家人工智能发展战略，Tata Sons受国防部委派制定的“保障印度国防和安全人工智能发展路线图”。
法国——法国国防部长弗洛朗斯·帕尔丽宣布大幅提升国家人工智能支出（18.3亿美元）以开发未来武器系统；议会“维拉尼报告”指出，“人工智能目前是保证安全，保持对潜在敌人优势，维持我们与盟国相对地位的中心政治原则”；人工智能用于发展武器能力研究路线图及其第一阶段——人机协同方案（Man-Machine Teaming-MMT）。
英国——希望在人工智能领域成为美国军事计划的一部分，在这一合作框架下，根据英国国防大臣决定，2018年5月，创建英国国防科学与技术实验室（Defence Science and Technology Laboratory-Dstl）人工智能研究应用中心。
上述国家宣布了以下三方面政策，作为人工智能民族主义的主要导向：
1.保证维持人工智能先驱国家经济和军事优势的政策，这些国家认为自己是“先驱”不无道理。
2.阻止抄袭新人工智能技术的政策，首先针对那些容易被具有相当技术水平国家仿制的技术。
3.削弱导致人工智能技术传播的国际贸易动因政策。
特别值得关注的是所有国家调控手段的行动准备水平，能够迅速并坚决制定新规则，严厉阻止任何其它国家破坏国家人工智能领域技术主权的企图。
人工智能国家化
对在世界人工智能领域优势竞争中落后的恐惧引发了人工智能民族主义趋势。然而事情远不止于此。
当知道中国所采取的联合私人商业和国家目标及资源的政策（军民融合）使得中国在数年内几乎赶超先前人工智能遥遥领先的美国时，其余国家别无他途，只能走同样的道路。
将发达国家习以为常的国家和商业分离模式放在一边不谈，我们来说说人工智能国家化的优势——联合私人公司和国家的资源，均衡人工智能领域创新应用的速度，将战略目标调整为国家在国际舞台上获得经济、政治和军事优势。
人工智能国家化的内容包括人工智能竞争领导国家和人工智能竞争落后国家两方面。
人工智能竞争领导国家——美国和中国
部分专家列举证据称，中国目前在人工智能领域几乎落后美国一倍。
然而，对中国民用和军用突破性技术的分析，美国国会中国经济与安全审查委员会（China Economic and Security Review Commission）听证会结果及其提交美国国会的总结报告，以及对中国武器深入分析的最新报告显示，美国和中国在人工智能技术发展方面几乎具有同等地位。
注：决定技术指标领先地位的因素包括：公司数量；在国际市场上的份额；科研和设计的资金投入水平；专利申请数量；权威杂志上的发表数量；每篇发表的引用数量。技术指标领先地位可能因国家政策改变或科研和设计工作中的新突破而发生改变。
（资料来源：上述排名的依据包括：（美国国会中国经济与安全审查）委员会2017年3月就中国新一代技术及军民两用技术领域成就举行听证会期间的数据；科学研究；与政府、科学界代表以及业界专家的讨论；研究公开来源资料和分析文章。）
在审议9项最具突破性军民两用技术类别过程中，美国国会专家将人工智能列为中美水平几乎相当的三类之一。
这些专家的结论与民间、但质量非常高的报告不同，考虑了3方面因素：
1.在中国的武器发展长期战略中，自主无人系统和人工智能具有最高的优先发展地位。
2.中国人工智能发展路线图的特点，高度重视研制智能化武器，将其列为4项关键战略前沿技术，将超越美国军队作为目标，采用跨越式发展战略。
3.中国希望将人工智能用于加速发展所谓的“杀手锏”武器，该词是从英语的Trump Card（王牌）发展而来的。
但这里说的Trump并非特朗普总统，而是指所谓的“杀手锏”武器。杀手锏这一术语可以有不同的翻译方法：翻译成英语就是指“王牌”或者“杀人的锤矛”，翻译成俄语就是“杀手”。这一术语引用自中国的神话传说，杀手锏是指借助于高超的绝招，出其不意战胜更加强大的敌人（类似于大卫打败巨人歌利亚使用的投石器）。中国前领导人曾如此形容“杀手锏”这一术语：“敌人最害怕什么，我们就应当攻击什么”。从那时起，中国的军事学说开始确定了发展“杀手锏”武器的优先方向，巧妙地攻击敌人最薄弱的点。而人工智能从这一点来看似乎非常有用。
美军非常了解中国所依赖的“杀手锏”武器。正如美国前国防部副部长罗伯特·沃尔克（2014至2017年担任该职务）所说，“中国的取胜战略是系统破坏战（systems destruction warfare），因为他们关注的重点是电子-瘫痪式攻击敌军的司令部和指挥部，而不是从物理上摧毁坦克、军舰和飞机”。
最显而易见的例子就是使用集体智能微型无人机群打击航母。
另外一个例子是，导弹武器的智能化。这里人工智能的目标是“大幅拓展导弹的感知和决策能力，以最终完成任务，能够认知并具备学习能力”。
很可能，就像五角大楼一名高级官员不久前所说：“第一个在战场上展开能够关闭敌方指控系统的电磁脉冲武器的民族，将改变战争的面貌。很难说，美国将在这场竞赛中胜出”。而这里所说的不是别的，正是要将电磁脉冲武器与人工智能相结合。
关于中国将人工智能技术优先应用于先进武器系统而产生潜在威胁的详细描述请见：Implications of China’s Military Modernization. Testimony before the U.S.-China Economic and Security Review Commission // U.S.-China Economic and Security Review Commission. 2018。
目前，美国和中国在人工智能领域齐头并进。但很多专家认为，最多再过十年，中国的威权主义就会依靠所收集数据的绝对优势，战胜美国的民主制度。目前，中国收集的数据已经是美国的4倍，且这一差距还正在拉大。
在不久的将来仍将是两家垄断制。但人工智能领域的两个世界领导者——美国和中国——却拥有完全相反的战略：
中国——无论如何继续做“事”。
美国——采取一切办法阻止中国做“事”。
关于“事”的具体描述请见报告：How China’s Economic Aggression Threatens the Technologies and Intellectual Property of the United States and the World // White House Office of Trade and Manufacturing Policy. 2018.（URL:https://www.whitehouse.gov/wp-content/uploads/2018/06/FINAL-China-Technology-Report-6.18.18-PDF.pdf）。简单说包括以下内容：
A.采取保护主义措施维护本国市场不受进口和人工智能领域竞争的影响。
B.国家支持非法或者“半合法”通过以下手段获得人工智能领域的知识产权：人工窃取，网络间谍，违反美国出口法，伪造和盗版。
C.强迫或者强制美国公司向中国公司转让人工智能技术，通常用以交换有限进入中国市场。
D.直接从科学创新思想的源头（大学，实验室，研究中心）获取有价值的公开信息，以及从相关领域收买有用信息：公司、金融和鉴定。
E.国家支持中国公司在中国境外的先进人工智能技术投资活动。
人工智能竞争落后国家
实际情况是这样，除了领先国家美国和中国外，其余所有国家都属于人工智能竞争落后国家之列。虽然像法国、德国、印度和韩国这样的技术发达国家似乎在人工智能技术发展水平上不能与第三世界国家相提并论，但他们都摆脱不了成为领先国家人工智能殖民地的命运。
在人工智能新殖民主义条件下，殖民国家获得的不是金银，而是其替代品——本国人工智能技术学习所需要的大数据。而殖民地国家只能寄希望于人工智能新殖民主义国家的“文明精神”及其资金援助了。
然而，这里也一样，就像两个领先国家在人工智能领域之间的竞争那样，“没有人赢的时候，也就没有人输”。
比如，欧洲国家正在试图做点什么，以摆脱向美国提供大数据的被殖民的命运。
承认在技术设施和人工智能计划规模方面落后于美国和中国的同时，欧洲专家将自身在人工智能领域的能力形容为“小的闪光点”，幻想着“我们如何收集这些闪光点并将其集合起来”。
“特殊的落后国家”——俄罗斯在人工智能竞争中的地位
关于俄罗斯潜力和前景，不能将其简单地归为竞争落后国家。
第一，理论上存在可能，落后国家可以在将人工智能用于军事目的时较领先国家有优势。这个问题超出了本文的范围，因为文章并不准备讨论所有的可能性，仅研究最有可能的方案。但是，必须提一下有利于落后国家的方案，因为很多权威的专家都在研究、分析这一问题。在不就前刚发行的《Foreign Policy"s Fall 2018》杂志秋季未来战争问题专刊中就讨论了这一问题。Michael C. Horowitz在“The Algorithms of August”一文中分析了这一方案的前景，俄罗斯被列为“特殊的落后国”。类似中国，俄罗斯具备竞争领先地位的潜能。
第二，俄罗斯非对称应对地缘政治挑战的传统，加上现有的苏联时期的科学技术遗产，可能对人工智能技术与新型武器（从高超声速到电子信号压制系统）的结合产生重大影响。还有人工智能与量子计算等等的结合，可能根本改变未来军队的配置。
因此对于俄罗斯来说不能一概而论。需要进行单独、专业分析，因为即便是针对该问题的最优秀论著（比如，“技术因素对国家和国际安全威胁、军事冲突和战略稳定指标的影响”），也只不过是“蜻蜓点水”。
人工智能国家化将走向何方？
人工智能领先国家和落后国家之间虽然存在差异，但他们实际上都在采取类似中国那样的人工智能国家化的措施。
首先，在本国内建立统一的人工智能研发军民体系。
当然，人工智能公司巨头将采取一切措施予以抵制。比如，2018年6月1日谷歌宣布，不会恢复与美国军方代号为“Maven项目”（Project Maven）的合同。该计划是在伊拉克作战部署的首个人工智能深度学习系统，用于对军用无人机传回的图像进行分类。谷歌公司决定不再继续与军方的合同是在这一事件之后：谷歌85000名员工中约有4000人签署请愿书，要求谷歌不再参与“战争技术”的研究。
此事立刻引起回应。
2018年6月6日，“新美国安全中心”专家格雷戈里·艾伦发表题为“人工智能研究人员应当帮助军方进行一些研究”的文章。文章为人工智能商业公司制定了新的“道德原则”：
“谷歌人工智能工程师的道德原则应当是参与国家安全计划，而不是逃避”。
在提及谷歌工作人员号召拒绝参加“Maven项目”时，作者写道：
“这种号召导致了巨大的道德危险。先进人工智能技术应用于军队就像电能普及一样不可避免。这一过渡会伴随道德和技术上的风险。然而，包括像谷歌这样公司的优秀研究人员参与这一过程是必要的，以帮助军队处于正确的道德标准之上”。
人工智能领域的同行纷纷前来声援被指责的谷歌。Deep Mind创始人之一，Skype创始人埃隆·马斯克以及数名人工智能行业知名从业人员均号召同行签署承诺书，保证不研制基于人工智能技术的“致命原子武器”，否则就会成为臭名昭著的“机器人杀手”。
8月，已经有116名知名人工智能活动家和专家署名致信联合国，号召禁止致命原子武器。在声明中，专家们表示，这一技术的开发将导致意义与火药、核武器发明相当的“第三次战争革命”。联合国还未回应，北约高级顾问桑德罗·何克恩（音）就表示，这一倡议是极其的自负，可能赋予极权国家非对称优势。
“如果这些来自硅谷幼稚、不务正业的研发人员不知道威胁的重要性，那么中央情报局应当强迫他们了解”，何克恩如此表示。
需要“强制了解”的不仅仅是像谷歌这样的人工智能巨头，还包括大量处于人工智能研发前沿的初创公司。何克恩称，“初创公司应当被放入大的集体机构，以接触所需要的数据并研制高水平的人工智能”。这一逻辑也得到了人工智能领域个别专家的认可——他们都应当为完成国家安全任务服务。何克恩解释称，“极权体系和民主体系在人才利用方面存在巨大差异。极权国家的军方指挥部和指挥人员能够强迫公民、专家和学者为军方服务。在这种国家，如果需要好的大脑，你可以让任何专家为你服务”。
在美国很难出现下列情况：
人工智能初创公司为人工智能巨头服务；
人工智能公司巨头为军方服务；
人工智能专家按照军队的要求进行研究。
但苏联曾经就是这样。现在的中国也正是如此。
美国是否能够在本国采取类似的行动，最终取决于威胁的水平。因为任何民主都会在国家安全受到高度威胁的时候终结。
美国很多有影响力的人士都完全相信，与中国的人工智能战争已经打响。现在要做的事是让大多数美国人都相信这一点。特朗普当选后，这似乎已经成为现实。
声明：本文来自知远战略与防务研究所，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
