编者按
美国陆军4月27日与科技行业高管举行“人工智能桌面演习2.0”，旨在通过与行业合作伙伴直接合作，探讨网络对抗的人类参与程度是否需要根据具体情况动态调整、网络战情境下是否可以对AI监管实施“松绑”、如何利用AI突破人类速度限制以及如何设定AI自主权的边界。
该演习由美国“战略竞争研究项目”设计和组织，由美国陆军主办，14家科技公司高管、美国跨军种网络司令部代表参与。演习采取自由研讨会形式，而非逐次兵棋推演。此次演习的场景设定于2027年印太地区，危机升级为针对美国军事网络的网络战，敌方利用人工智能发动持续且不断适应美军防御态势的网络攻击，其速度超过人类防御者的反应能力。此次演习促使美国陆军考虑赋予人工智能“智能体”更大的自主权，尤其是在战时，其中包括制定一项“风险连续体”政策，以应对在特定情况下可能不得不对自主式人工智能监管系统“松绑”的局面。
美国陆军部长首席网络顾问布兰登·普格提出，战时和平时的网络攻击风险承受能力有所不同，应该考虑是否需要根据所处具体情况调整人类的参与程度；美军已经开始利用人工智能来检测针对美军网络的入侵，现在需要的是能够主动采取行动阻止入侵的人工智能，不仅可以向人类操作员提供攻击警告，还可以自主采取行动阻止入侵。美国陆军网络司令部司令克里斯托弗·尤班克提出，新型人工智能工具在很大程度上可以自主运行，只需极少的人工监督，就能发现网络漏洞并对其进行攻击，速度远快于人类防御者封堵漏洞的速度；通过“加快修补速度”来应对人工智能赋能的网络攻击是不现实的，需要考虑如何利用人工智能来突破人类速度限制；在网络空间防御环境中，需要考虑在哪些方面给予人工智能自主权。
此次兵棋推演并未对相关复杂问题给出明确的答案，但提出了一些美国陆军可以迅速采取的具体措施。美国陆军计划利用事先预留的快速采购资金，迅速采购演习中提出的一些人工智能工具，并将其部署到两个网络防御部队进行测试。美国陆军认为，美军应该直接采购业界现成技术，而非按军方规格重新开发，因为美军没有闲置资源来构建漫长的采购流程；相比于技术和具体软件，更重要的是政策、程序和组织方面的潜在变化；在利用‘智能体’的人工智能环境中，网络威胁可能非常严峻且瞬息万变，以至于美军可能需要允许人工智能智能体在目前完全由人类掌控的领域做出高风险决策并采取自主行动；美军需要界定风险的可接受程度，陆军网络司令部正在研究该领域的新型网络战理论。
奇安网情局编译有关情况，供读者参考。
美国陆军4月27日与科技行业高管举行“人工智能桌面演习2.0”（AI TTX 2.0）。此次演习促使美国陆军考虑赋予人工智能“智能体”更大的自主权，尤其是在战时，其中包括制定一项“风险连续体”政策，以应对在特定情况下可能不得不对自主式人工智能监管系统“松绑”的局面。
美国陆军部长丹尼尔·德里斯科尔的首席网络顾问布兰登·普格4月29日表示：“人类参与的程度是否应该根据我们所处的具体情况而有所不同？如果在冲突时期我们面临大量网络安全攻击，那么我们的风险承受能力或许会与和平时期有所不同。”
该演习的目的在于向参与者呈现一个严峻的场景：时间来到2027年，印太地区的危机升级为针对美国军事网络的网络战。参与者包括来自14家科技公司的管理人员以及美国跨军种网络司令部的代表。
布兰登·普格表示：“前提是，敌方利用人工智能发动一波又一波的攻击，这些攻击不断适应陆军的防御态势，而且速度可能比人类防御者能够跟上的速度还要快。”
美国陆军网络司令部司令克里斯托弗·尤班克中将表示，新型人工智能工具在很大程度上可以自主运行，只需极少的人工监督，就能发现网络漏洞并对其进行攻击，速度比人类防御者堵住漏洞的速度还要快。
克里斯托弗·尤班克称：“在这个人工智能自主运行的新世界里……告诉别人‘加快修补速度’是不现实的。那么，如何利用人工智能使我们不再受限于人类的速度呢？在网络空间防御环境中，人工智能在哪些方面拥有自主权？”
布兰登·普格解释称，人工智能已经在帮助检测美国国防部网络上的入侵，但现在需要的是能够主动采取行动阻止入侵的人工智能，它不仅可以警告人类操作员正在进行的攻击，还可以自主采取行动阻止入侵。
布兰登·普格称：“我们非常擅长利用人工智能进行检测。现在，我们如何才能继续推进这项工作，使其具备智能体能力，不仅能够进行检测，还能采取响应行动呢？”
此次兵棋推演并未对这些复杂的问题给出明确的答案。该演习由独立的“战略竞争研究项目”为美国陆军设计和组织，并没有进行详尽的逐次模拟。相反，它采用了一种更为自由的研讨会形式，14位高级将领分别就如何应对假想冲突提出了各自的建议，随后美国军官和官员们提出了问题。
这些来自私营部门的观点让美国有很多值得思考的地方。克里斯托弗·尤班克称，许多行业高管“也曾为我们所面临的同样问题而苦苦挣扎”。
该演练还提出了一些美国陆军可以迅速采取的具体措施。例如，美国陆军计划利用事先预留的快速采购资金，迅速采购演习中提出的一些人工智能工具，并将其部署到两个网络防御部队进行测试。布兰登·普格强调，这些能力将取自业界已有的技术，而不是费力地根据军方规格进行开发。他称：“我们没有闲置的资源……来构建漫长的收购流程。”
克里斯托弗·尤班克表示，比任何具体软件都更重要的是政策、程序和组织方面的潜在变化。他称：“这远不止是技术问题，而是关乎人力资源，关乎组织结构。我列出了19件事……但没有一件是产品。”
克里斯托弗·尤班克特别指出：“我认为美国陆军网络司令部获得的最大启示在于：我们必须明确，在利用‘智能体’的人工智能环境中，究竟该如何界定风险的可接受程度。”换句话说，在某些情况下，网络威胁可能非常严峻且瞬息万变，以至于美军可能需要允许人工智能智能体在目前完全由人类掌控的领域做出高风险决策并采取自主行动。
克里斯托弗·尤班克和他的团队目前正在研究这种新的网络战理论。他称，“我离开时告诉我的团队，好吧，我们可能需要先确定风险接受程度连续体是什么样的，这可能是我学到的最重要的一点。”
声明：本文来自奇安网情局，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
