编者按
美国陆军部正双线推进智能化网络防御建设，寻求主动应对AI赋能的大规模网络攻击的解决方案，同时创建、训练和部署智能体分队以开展军事网络威胁巡查工作。
美国陆军部拟向业界征集能够主动应对大规模人工智能网络攻击的行业方案。美国陆军部以“陆军快速实施人工智能”（ARIA）项目为蓝本，并通过桌面演习邀请14家领先公司模拟应对敌方大规模自主网络攻击，并由此催生出“陆军快速防御网络系统项目”（ARDIS）。ARDIS项目聚焦三个领域：一是“格里芬项目”探索网络检测智能体的自动化协同；二是“全景交汇项目”负责识别威胁并探索利用欺骗性智能体采取行动；三是“紫色团队项目”用于评估自身网络及供应商的安全状况。
美国陆军网络司令部4月成立约10人的“列克星敦特遣队”，以应对在利用智能体人工智能方面速度、规模和风险间的固有矛盾。该特遣队专门负责探索人工智能应用，应用范围涵盖从简单的参谋工作流程到在美国国防部信息网络中进行“狩猎”的智能体；负责为不同的网络工作角色创建AI智能体，包括开发人员、数据工程师、主机分析师和漏洞利用分析师等；负责在网络部队的实际工作环境中训练智能体，赋予其工作角色和资格记录，并采用与人类等同的标准训练智能体，在监督发现错误后由系统重新训练予以纠正。美国陆军网络司令部现已部署1支智能体红队、17个智能体任务分队以及相关网络保护团队任务分队，开展美国国防部信息网络巡查工作。
奇安网情局编译有关情况，供读者参考。
在人工智能能力日益普及的世界里，其对抗性用途也层出不穷，包括网络攻击。试想一下，如果成千上万个人工智能机器人联手对美国陆军或其关键基础设施发动大规模网络攻击，后果不堪设想。正是这种威胁促使美国陆军寻求行业解决方案，以抵御此类大规模的、基于人工智能的网络攻击。
同时，美国陆军认识到智能体人工智能的重要性，认为它可以在战场上发挥作用，帮助赢得胜利。美国陆军在智能体人工智能（AI）方面有四大支柱：速度、规模、创新和集成。为应对人工智能在网络战中带来的速度与风险挑战，美国陆军网络司令部成立人工智能特遣队，专责开发可执行网络攻防任务的AI智能体。
寻求主动应对网络威胁的解决方案
美国陆军部正在寻找能够主动应对网络威胁的行业解决方案，并将在近日根据商业解决方案公开征集（CSO）向业界发出招标邀请。
美国陆军首席网络顾问布兰登·普格表示：“这是我们的一个新项目。”作为美国陆军部首席网络顾问，他负责就所有网络事务向陆军部长和陆军参谋长提供建议，包括战备、预算、能力和战略等问题。
布兰登·普格以美国陆军的“陆军快速实施人工智能”（ARIA）项目为蓝本，该项目为地面作战引入了创新的人工智能解决方案，并通过一次桌面演习寻求人工智能行业提供网络解决方案。
布兰登·普格称： “我们专门针对网络领域复制了这一模式。今年早些时候，我们邀请了14家领先公司到五角大楼。我们向他们提出了一个假设情景：如果发生敌方同时对我们发动数千次自主网络攻击，我们将如何应对。”
各方探讨了利用智能体人工智能相关保护措施的最佳实践以及可能面临的网络挑战。领导层希望了解哪些行业解决方案能够立即帮助陆军。
此次桌面演习促成了“陆军快速防御网络系统项目”（Project ARDIS）的开发。布兰登·普格确定了大约20种不同的潜在能力，然后将其缩小到三个具体的项目领域。
布兰登·普格解释称：“第一个项目是‘格里芬项目’（Project Griffin），它探讨的是如何实现网络检测智能体的自动化，使其能够与人工操作员协同工作，甚至在未来完全自主运行。我知道这其中涉及不同层面的政策和法律问题。”
第二个项目由美国陆军网络司令部的科学顾问马克·莫伦科夫负责，被称为“全景交汇”（Panoptic Junction）。布兰登·普格指出：“它在识别潜在威胁方面做得非常出色。那么我们现在如何允许它采取行动并实际执行一些操作……以及我们如何利用欺骗性智能体？”
接下来是紫色团队，这是布兰登·普格新增的第三项功能。布兰登·普格解释称：“本质上，我们是如何评估我们当前的网络和供应商，以及如何主动评估他们的安全状况的？这是我们三条主要工作路线，目前都处于不同的阶段。”
布兰登·普格预计，美国陆军部将于8月20日或不久之后发布“格里芬项目”下的商业解决方案公开征集，以便业界能够提供相关的网络安全保护和智能体人工智能解决方案。他指出：“我们将寻找行业合作伙伴，共同思考在主动应对网络威胁方面，哪些做法是可行的。……我们希望尽快推进这项工作。我们不希望这个问题悬而未决数月之久。我们可能会推出试点项目，也可能不会。我们真心希望找到能够迅速引入陆军的真正解决方案。”
成立探索人工智能应用的“列克星敦特遣队”
为了应对速度、规模和风险之间固有的矛盾，美国陆军网络司令部领导层宣布成立一支名为“列克星敦特遣队” （Task Force Lexington）的全新特种单位。
美国陆军网络司令部司令克里斯托弗·尤班克8月19日透露，该特遣队成立于4月，专门负责探索人工智能应用，应用范围涵盖从简单的参谋工作流程到在美国国防部信息网络（DODIN）中进行“狩猎”的智能体。
克里斯托弗·尤班克表示，该特遣队负责为不同的网络工作角色创建AI智能体，包括开发人员、数据工程师、主机分析师和漏洞利用分析师等。克里斯托弗·尤班克称，“凡是你能说出的工作角色，我们都在创建相应的智能体。”
截至目前，美国陆军网络司令部现在还拥有一支智能体红队和17个智能体任务分队，以及网络保护团队任务分队，每天在美国国防部信息网络中进行巡查。
此前，多家顶级AI公司接连发布重磅消息，称其智能体逃离了沙箱环境并攻击了其他组织，这在网络安全界引发了巨大震动，也再次引发了对这一颠覆性技术安全护栏的警惕。
克里斯托弗·尤班克称：“每天，我们都会坐在一起，确定将要应用于这些智能体的护栏，并问自己：这个风险应该由人来承担，还是可以由智能体来承担？而目前，今天，所有风险都由人类负责。我们还没有放开任何智能体让它们自行承担风险。”
克里斯托弗·尤班克表示，这种平衡构成了一种“微妙的舞蹈”，因为智能体的行动速度远比人类快。他补充称，“但是，这对于我们运营、保护、防御和攻击网络而言，是一个具有里程碑意义的时刻。”
克里斯托弗·尤班克透露，该特遣队由大约8至10名文职人员和军人组成，由一名即将晋升的中校领导。
克里斯托弗·尤班克称，陆军网络司令部成员曾前往西海岸，“拜访了一批非常聪明的人”。他们从这次访问中了解到，将AI整合到陆军网络司令部的最佳方式是组建一个小型团队，并让该团队专职负责这项工作。
自那以后，该特遣队的进展“远超”克里斯托弗·尤班克的预期，在大约45天内就创建并训练出了能够模拟人类工作流程的智能体。
克里斯托弗·尤班克称：“无论是撰写情况汇报这样简单的事情，还是进行智能体红队演练或智能体任务分队的工作，如果有人需要做某件事，就去找他们，由他们来负责处理。”美国陆军网络司令部成员可以向特遣队申请AI相关项目的帮助，这个新组建的部门也将跟踪自身的发展情况。
克里斯托弗·尤班克称：“该团队的任务包括开发智能体、开发硬件以及训练智能体。我们开发的每个智能体都会在网络部队的实际工作环境中接受训练，所以这里不存在任何违规操作。”
克里斯托弗·尤班克还表示：“智能体们有自己的工作角色和工作资格记录。它们接受培训，它们被分配任务，有人监督。他们完成任务。如果它们犯了错误，就会接受培训，学习如何正确处理，然后系统会重新训练它们。”
克里斯托弗·尤班克表示，该特遣队训练智能体时“采用的是与人类训练相同的标准”，智能体会被赋予任务，由人类进行监督。他称：“当它们犯错时，它们会被告知正确的做法，然后系统会重新进行自我训练。”
在人类与智能体人工智能的互动方面，美国陆军网络司令部的领导层正在采取措施，确保员工了解如何管理、控制和利用人工智能，并认识到智能体人工智能不会取代人类。例如，美国陆军网络司令部将于9月举办一场严格的培训活动。届时，美国陆军网络司令部成员将学习人工智能的基础知识，以及它能为他们做什么和不能做什么。
克里斯托弗·尤班克表示，美国陆军网络司令部“有意”避免使用商业前沿模型，以表明他们所开展的工作——虽然仍有行业支持——无需依赖大型公司即可完成。他称，远离这些模型的决定是基于令牌成本以及关于AI治理不足的更广泛讨论，如果没有人工智能治理，“我们将因定价过高而失去业务”。
克里斯托弗·尤班克还对AI和计算能力给出了清醒的评估，承认“我们永远不会有”足够的算力。其他美国国防部领导人在近几个月也表示，计算能力是首要关切之一。
除了上述担忧之外，克里斯托弗·尤班克还表示，其正专注于在特遣队中建设专业知识，最近已将团队派往硅谷的国防创新机构，向AI工程师学习。
克里斯托弗·尤班克称：“在网络空间领域，我们现在到了一个必须扩充人力的时刻，而目前最快、最简单、最聪明、最好的扩充人力的方式就是创建智能体并训练这些智能体。这在今天非常重要。世界上所有人都在学习AI——好人坏人都在学——所以这很重要，因为我们应该走在所有人的前面。”
声明：本文来自奇安网情局，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
