当地时间4月26日，美国国土安全部宣布，将针对研发人工智能（AI）的“安全与保障”问题成立顾问委员会，成员包括OpenAI、英伟达、微软（Microsoft）、Alphabet、亚马逊网络服务（AWS）、AMD等企业的22名高层。其中就包括英伟达CEO黄仁勋和AMD CEO苏姿丰。他们将就人工智能在关键基础设施中的作用向政府提供建议。

美国AI安全顾问委员会将为运输部门、管道和电网运营商、互联网服务提供商和其他人制定建议，以“防止和准备应对影响国家或经济安全、公共健康或安全的关键服务的人工智能相关中断”。该委员会将在5月初首度开会，计划未来每季召开一次会议。

国土安全部长马约卡斯（Alejandro Mayorkas）表示，委员会将协助确保AI科技的安全开展，以及设法应对这类科技对能源、公用事业、交通、国防、信息技术、食品和农业，甚至是金融服务等关键服务所构成的威胁。

PART1美国人工智能安全委员会概况

1.美国人工智能安全委员会概况

2.美国政府在人工智能领域相关举措梳理

Part2美国人工智能安全委员会成立带来的影响

1.美国人工智能安全委员会成立带来的影响

2.美国人工智能国家安全委员会（NSCAI）及相关机构梳理

Part3

美国人工智能安全委员会发展展望

1.美国人工智能安全委员会发展展望

2.从人工智能安全委员会思考美国人工智能发展

Part1 美国人工智能安全委员会概况

01 美国人工智能安全委员会概况

美国在人工智能(AI)领域的安全监管迈出关键步伐，新成立的AI安全委员会将由OpenAI、英伟达、微软和Alphabet等科技公司的首席执行官领衔，共同探讨如何在美国的关键基础设施中安全地使用AI。美国国土安全部表示，这一举措旨在加强政府与私营部门之间的合作，共同应对人工智能带来的风险和挑战。在缺乏明确的国家人工智能法规的背景下，该委员会将致力于推动人工智能的安全使用，并寻求解决潜在的安全问题。

该委员会的主要任务包括向电信公司、管道运营商、电力公司等关键行业提供关于如何负责任地使用人工智能的建议，并帮助他们做好应对人工智能相关干扰的准备。此外，该组织还将关注人工智能在关键基础设施领域的应用，确保这些设施免受人工智能攻击的威胁。国土安全部部长亚历杭德罗·马约卡斯在一份声明中表示：“人工智能是一项具有变革性的技术，它能够为我们的国家利益带来巨大的推动力。然而，我们也必须认识到它所带来的风险。通过成立这个由业界领袖和政府精英组成的委员会，我们将能够更好地理解这些风险，并采取有效的措施来减轻它们。”

OpenAI的山姆·奥特曼、英伟达的黄仁勋、微软的纳德拉以及Alphabet的皮查伊等业界领袖，将与学者、民权领袖以及关键基础设施领域的公司高层管理人员一同参与委员会的工作。此外，马里兰州州长Wes Moore和西雅图市长Bruce Harrell等政府官员也在委员会中担任成员。这些行业领军人物的参与，无疑为委员会注入了强大的专业力量，将共同为AI技术在关键基础设施中的安全使用出谋划策。AI安全委员会不仅将携手美国的其它部门，还将为电网运营商、运输服务提供商以及制造工厂等行业提供宝贵的指导建议。这些建议旨在确保在广泛应用AI技术的同时，能够有效保护其系统免受潜在的安全威胁和破坏，从而保障国家经济、公共卫生和重要行业的安全稳定。

AI的引入虽然能提高效率和安全性，但也可能带来意想不到的问题。美国国土安全部部长亚历杭德罗·马约卡斯强调，AI技术的应用提供了巨大的机会，但同时也伴随着风险。美国政府去年已宣布成立AI特别工作组，旨在研究AI的利用和潜在威胁。马约卡斯警告说，如果在关键基础设施中不当部署AI，可能会造成灾难性后果。此次人工智能安全委员会的成立是乔·拜登总统签署的2023年行政命令的重要成果之一。该行政命令呼吁成立一个跨行业的机构，以提出具体建议，提高与关键领域人工智能使用相关的安全性、弹性和事件响应基础设施。美国政府已经广泛应用了机器学习或人工智能于200多种不同目的，如监测火山活动、追踪野火以及从卫星图像中识别野生动物等。然而，利用人工智能制造的深度造假音频和视频以推送虚假内容已经成为美国官员的一大担忧，他们正努力保护2024年美国大选免受错误和虚假信息的干扰。

社交媒体巨头Meta（马克·扎克伯格领导）和X（埃隆·马斯克领导）并未直接参与此次委员会的组建，但政府表示将保持与这些公司的沟通与合作，共同应对人工智能带来的挑战。

02 美国政府在人工智能领域相关举措梳理

在过去的几年里，美国一直在不断探索人工智能（AI）领域的立法和监管，以适应这一快速发展的技术。在国会的117届和118届任期内，AI的法律和法规备受关注，旨在促进技术的创新、确保公共安全、保护隐私，并建立伦理标准。

在117届国会（2021年1月到2023年1月），涉及AI或机器学习的法案超过了75项，但仅有六个最终通过并成为法律。这些法案和举措主要聚焦在国防、科学、创新和竞争等领域，强调推动AI技术的研发和应用。

Part2 美国人工智能安全委员会成立带来的影响

01 美国人工智能安全委员会成立带来的影响

在AISSB的成员名单中，可以看到许多业界领袖和顶尖学者，例如OpenAI的Sam Altman、等。这些成员不仅在技术创新方面有深厚的背景，也对人工智能的伦理和社会影响有着深刻的理解。

AISSB的成立背后是对美国对当前数字安全威胁日益增长的回应。美国当局认为，随着技术的发展，从智能交通系统到电网控制系统，越来越多的基础设施部件开始依赖于网络技术，这也使它们成为潜在的攻击目标。最近的几起重大网络攻击事件，如德克萨斯州和新墨西哥州之间水处理设施的网络攻击事件，更是凸显了加强此类基础设施的安全性的迫切性。

美国国土安全部也在积极响应拜登关于人工智能的行政命令，该命令要求各部门共同合作，确保人工智能技术的安全和有效利用。委员会的建议和策略将直接影响到部门政策的制定和执行，尤其是在如何利用人工智能来提升国家安全和公共服务效率方面。通过这些措施，美国国土安全部称希望建立一个更为安全、智能的基础设施网络，不仅能够有效应对现有的威胁，也能预防未来可能出现的风险，全面提升国家战略安全管理能力。

值得注意的是AISSB会较此前广受关注的美国人工智能国家安全委员会（NSCAI）的组成和目的存在显著不同，NSCAI由Google前CEO施密特主导，包含了技术、国防和情报领域的专家，没有美国半导体行业的代表。NSCAI在其报告中特别建议限制中国在某些关键技术和人工智能领域的发展，以保护美国的技术优势和国家安全。保护人权和国际法，保护隐私、面向可持续发展和负责任。

02 美国人工智能国家安全委员会（NSCAI）及相关机构梳理

美国国家人工智能安全委员会（National Security Commission on Artificial Intelligence，NSCAI）的任务是向总统和国会提出建议，以“推进人工智能、机器学习发展以全面解决美国国家安全和国防需求的相关技术。”在设立本委员会时，2019财年约翰·S·麦凯恩国防授权法案第1051节指示NSCAI从国家竞争力的角度审视人工智能及其维持技术优势的手段、国际合作和竞争力的趋势、促进基础和先进研究投资的方式、劳动力和培训、军事使用的潜在风险、伦理问题、建立数据标准和激励数据共享，以及人工智能的未来发展等方方面面。美国人工智能国家安全委员会的15名委员由国会和行政部门提名，他们代表了一个由技术人员、企业高管、学术领袖和国家安全专业人员组成的多元化群体。所有委员以两党合作的方式处理了所有问题，并就最终报告达成了共识。委员会的运作遵循两项原则：行动的必要性和透明度的重要性。

NSCAI一直致力于提高透明度。作为一个联邦咨询委员会，它已经举行了多次公开的全体会议，总计约15个小时的审议和在线直播，并在NSCAI网站上存档了所有会议记录。NSCAI会回应了二十多项《信息自由法》的要求，发布了2500多页的材料，前期已发布了700多页的草稿材料供公众审阅和评论。除了出于国家安全原因而保密的材料和问题外，NSCAI提供充分的透明度，每一次全体会议、季度报告和向国会提交报告之后都积极主动地与媒体接触。NSCAI致力于在公共场合处理了人工智能最棘手的问题，并在咨询了民间组织、私营部门和政府团体后才提出建议。

美国人工智能国家安全委员会（National Security Commission on Artificial Intelligence，NSCAI）作为美国推动人工智能、机器学习等技术发展以解决美国国家安全与国防需求问题的政策参谋机构，于美国时间2021年3月1日发布最终版报告，就美国如何在人工智能时代保卫国家安全、继续维持全球领导地位，并在激烈的人工智能竞赛中取胜，提出了指导性建议。该报告在第一部分“在人工智能时代保卫美国”中阐明了利害关系，提出了防范人工智能相关威胁和使用人工智能技术保护美国人民和国家利益的措施建议；报告第二部分“赢得人工智能技术竞赛”则指出了人工智能竞赛的关键要素，并详细阐述了联邦各机构今后改革的行动路线。

对于人工智能可能给国家安全带来的影响，历史上还难以找到合适的案例进行类比。但该报告认为，美国人工智能的未来发展至少可以基于以下两个事实进行大致把握：首先，计算机系统解决问题和执行任务的能力迅速提高，在某些情况下其性能甚至超过人力，这种技术优势正深刻地改变世界；其次，美国在人工智能领域的领先优势正在缩小，新兴大国有可能在未来十年内超越美国成为世界人工智能领导者。由此，报告认为美国必须立即开始部署人工智能系统，在人工智能技术创新上投入更多资源，同时，联合白宫、内阁和国会两党的支持，以继续维持自身在该领域的领先地位，在激烈的竞争中掌握主动权。

除了人工智能国家安全委员会，围绕人工智能与安全问题，美国还形成了体系化的治理机制。政府机构层面，美国国防部（United States Department of Defense）、白宫科技与政策办公室（The White House Office of Science and Technology Policy）、美中经济安全审查委员会（U.S.-China Economic and Security Review Commission）以及国会研究局（Congressional Research Service）等机构都将人工智能安全问题作为重要议题并发布系列官方报告。智库层面，贝尔弗科学与国际事务研究中心（Belfer Center for Science and International Affairs）、布鲁金斯学会（Brookings Institution）、伍德罗·威尔逊国际学者中心（Woodrow Wilson International Center for Scholars）、战略与国际研究中心（Center for Strategic and International Studies）、 战争学院（Army War College）以及兰德公司（Rand Corporation） 等纷纷发布相关研究报告。尤其值得关注的是新美国国家安全中心，围绕美国所面临的人工智能安全问题进行了专题研究，并发布了系列报告。

Part3 美国人工智能安全委员会发展展望

01 美国人工智能安全委员会发展展望

美国设立人工智能安全委员会的背后，是人工智能行业的迅猛发展。当前，全球AI热潮如火如荼，行业前景广阔。据中国信通院数据，2023年，全球人工智能市场规模收入达5132亿美元，同比增长20.7%，预计到2026年，市场规模将达到8941亿美元，年复合增长率为20.33%。另外，高德纳咨询公司预测，到2025年，全球90%的公司将使用ChatGPT等生成式人工智能工具，这将大幅提高生产效率。

彭博社近日报道称，美国总统拜登和日本首相岸田文雄已争取到亚马逊和英伟达的支持，为一个新的人工智能联合研究项目提供资金。两国寻求在快速兴起的AI技术方面增进协作。一位高级别美国官员透露，这个规模5000万美元的项目将由华盛顿大学和筑波大学共同实施。两国另外还计划开展一项联合AI研究项目，由卡内基梅隆大学和庆应义塾大学共同参与。

美国在人工智能（AI）领域的竞争策略体现了其对技术发展、国家安全、经济利益和全球领导地位的全面考量。透过人工智能安全委员会的设立，通过一系列立法、政策支持、投资和国际合作，美国正积极构建一个有利于AI创新和应用的生态系统。

国土安全部AISSB成员涵盖了从AI公司高管到学术界和政策制定者的多样化背景，这可能使得该委员会在技术实施和战略建议上拥有更广的视角和影响力。这个全新成立的委员会将如何运作，能否成功帮助国土安全部达成目标，是否可能影响美国对华人工智能相关出口管制，将是未来值得关注的焦点。

02 从人工智能安全委员会思考美国人工智能发展

当前，人工智能已成为全球科技竞争的焦点领域，随着人工智能技术的通用性和军事应用的快速发展，其改变未来社会、未来战争的能力空前提升，世界主要国家均从战略布局、资金投入、技术研发、领域应用等方面入手加入人工智能全球竞争。为维持自身在人工智能领域的全球领导者地位，美国正积极应对上述挑战。

人工智能是当前最尖端、最前沿的技术之一，由于人工智能技术高度复杂，且涉及感知、认知、规划、学习、交流、自主学习与行动等各方面技术，因此具有关联性强、牵一发动全身的重要地位。美国认为，国家之间一旦形成技术“代差”，综合实力差距将被进一步拉大，技术强国会不断扩大竞争优势，提升其全球地位和政治影响力，甚至形成“强者愈强、赢者通吃”的局面。在这种情况下，技术强国对弱国实施政治讹诈和技术突袭的可能性极大，一国一旦在人工智能领域落后，必将在国际战略博弈中处于不利地位。因此，美国极为重视自身能否保有人工智能技术的全球领导地位，本质是对技术主权的争夺。

人工智能技术的蓬勃发展前所未有地影响了国家实力，人工智能在各领域的成功应用将推动经济发展、塑造并改变社会，甚至决定哪些国家能在全球发挥影响力和行使权力。美国认为，其在科学技术方面的成就和领导地位一直是其生活方式、繁荣和安全的驱动因素，当前美国正强烈地面临来自地缘政治、经济、意识形态、技术、军事等方面的挑战，尤其是在科学技术领导地位方面，美国正越来越多地面临来自中俄等战略竞争对手的挑战。人工智能作为最具未来影响力的颠覆性技术，提升其技术实力对美国提升国家实力，应对各种挑战至关重要，有助于美国建立技术领导权，更好地应对动荡变化的世界。

以人工智能为代表的技术安全正扩大国家安全的定义。人工智能应用正改变现有威胁，创造新的威胁类型，其可被用于社会渗透、数据窃取、破坏稳定等活动，加深网络攻击和虚假信息活动构成的威胁。美国认为人工智能将从两方面影响国家安全：一是存在技术滥用风险，可能出现犯罪、恐怖分子不计后果、非理性地使用人工智能技术的情况，威胁美国国家安全；二是对人民生产生活方式带来改变与挑战，随着人工智能技术的进步，其取代人的能力逐渐增强，将为社会带来革命性影响，对现有法律、道德形成巨大冲击。

人工智能技术的全球领导地位是美国国家安全战略的重中之重。美国政府在多份文件中表达了对自身全球技术霸权地位动摇的担忧，表示其自冷战结束以来就一直拥有全球军事技术的优势，尽管已认识到其技术实力正受到挑战，但无法放任这一趋势发展，认为若不加以改变，美国将在未来几年丧失其军事技术优势。人工智能技术是美国面临该挑战的关键方面，美国须对其国防能力进行变革，在指挥控制、武器和后勤保障等方面加速采用人工智能技术，以威慑其竞争对手或具备打赢未来智能化战争的能力。

回顾过去几届美国政府布局人工智能的历程可知，作为全球人工智能领域发展最迅速的国家，美国政府切实建立起发展优势，全力维护技术霸权，相比其他国家领先布局并实施了各项举措，但其也存在如立法周期过长、组织机构分散等体制掣肘导致的停滞不前，暴露出了一系列需持续改进的问题。但无论如何，从现有发展布局来看，美国仍将在较长时间内引领全球人工智能发展。

主编丨刘典

编辑丨朱政宇

排版丨赵杨博

审核丨梁正 鲁俊群

声明：本文来自清华大学人工智能国际治理研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。