作者:Harold HM Vermanen,MBA,微软公司公共部门业务总监

威胁情况正在改变

克里米亚危机显示了俄罗斯的“新一代战争”能力,或者正如北约所描述的那样,“混合战争”包括宣传、欺骗、破坏和其他非军事战术。

之前使用过这些策略。不同之处在于它们的强度、规模和速度水平,所有这些都是由于可用的技术而成为可能的。

根据跨国能力发展运动(MCDC)在他们的报告“打击混合战争项目”中所说的...我们对混合战争的共同理解是不成熟的,因此阻碍了我们阻止、减轻和应对这种威胁的能力。

这并不奇怪,因为大多数这些混合元素,如网络攻击,都是采用最新技术实施的,并包含其他混合元素,如欺骗和宣传。

因此,有效的反应需要新的技术和理论来实现快速反应,并使北约能够在对手能够执行其计划之前采取主动。

进入OODA循环

OODA循环是由美国空军上校约翰博伊德开发的“观察 - 判断 - 决定 - 行动”循环的首字母缩写,他们在军事行动期间将这一概念应用于作战行动过程,通常是在作战层面。

通过遵循这一原则,对混合威胁的反应应该是更好更快地做出决策,以便超越对手。这意味着进入攻击者的OODA循环将迅速增加我们在攻击发生前采取主动获胜的机会。了解各种对手的混合攻击,从商业组织对混合攻击的反应中可以吸取教训。正如我们所知,“混合战场”和特别是网络攻击不仅限于军事目标。

当然,由于商业组织不允许采取进攻性行动,因此存在差异。所以,所有的努力都集中在防守上。商业组织的目标是通过主动进入对手的OODA循环,并使对手攻击商业组织的成本如此之高,以至于投资回报率(ROI)不足以继续进行。这种行动方式意味着在攻击(法案)启动之前对对手的决定产生影响。

图1:进入对手的OODA循环。更好、更快的调查和响应决策。(资料来源:微软在北约C2 COE研讨会上的演讲,2018年11月)

信息优势

孙子在2000年前的“战争艺术” 中写道,关于信息优势的重要性:"知己知彼,百战不殆。这意味着我们的分析师需要更好、更快地提供评估,以帮助决策者使他们能够超越对手。通过网络攻击引入混合战争改变了人力资源足以获得信息优势的想法。

来自越来越多传感器的数据量大幅增加加速了这一要求,因为世界上所有分析师都不足以将可用信息量转化为预测并帮助及时做出最佳决策。

机器学习如何支持命令和控制

机器学习(ML)可能是分析大型数据源/信号并预测预期会发生什么的有效方式,从而使组织能够在发生攻击之前采取主动。

使用ML,您可以使用执行任务的特定指令建立自己的数据模型(算法)。例如,以这种方式预测对手的攻击向量取决于算法的质量,以及可用数据的数量和质量。

计算能力与ML相结合,有助于克服使用大型数据集的人为限制,因为它:

  • 超出人类能力和专业知识的范围;

  • 在人类无法察觉的区域工作;

  • 帮助员工自动化日常任务,避免浪费精力。与许多颠覆性创新一样,ML提出的风险和挑战可能会影响提供给指挥官的信息的真实性以及使用它的流程和技术的结果。ML算法的基本风险可能包括:

  • 人类偏见的放大;

  • 无意中泄露私人/秘密信息;

  • 缺少关键背景和影响(例如,将无辜的"约翰史密斯"与另一个"约翰史密斯"混淆,同一个出生日期,但犯罪记录不一样);

  • 提供虚假/恶意数据。

这些缺陷可能会破坏ML应用程序产生的决策、预测或分析,使我们承担法律责任和其他伤害。一些ML情景呈现出道德困境,例如一种能够部署的小型无人机形式,与现有的军用无人机不同,能够基于某种算法在没有人类批准的情况下做出杀死其他人的决定。

在理想的世界中,我们将拥有最佳设计算法(ML)以最大限度地降低这些风险。结合最高质量和数据量,高计算能力将使我们能够为组织提供最佳预测,以影响命令和控制(C2)并执行有效的OODA循环。

然而,现实情况是预测取决于人类对情况的适应性以及用于决策的理由/逻辑。此外,缺乏高质量数据和综合算法要求人们评估和理解更复杂的情况和可能的攻击。

从商业网络运营中更快地做出更好的决策

使用商业网络操作的例子,在基于三个学说的C2过程中成功地集成ML时,ML在C2过程中可以是一个很好的价值。

最大限度地提高可视性(最大限度地减少盲点并确保您对传感器有良好的控制):

内部 - 通过确保所有资产类型的覆盖率(尽可能接近100%)来最大限度地减少内部盲点。(例如身份,数据中心,电子邮件)。

外部 - 确保您从各种来源获得威胁源,从而提供有关外部环境的洞察力和背景信息。(例如恶意软件,身份泄露,攻击网站)。

减少人工步骤(和错误)

自动化并集成尽可能多的人工过程,以消除导致延迟和潜在人为错误的不必要的人为操作。

最大化人类影响

对于进行人工交互(例如困难的选择,新决策)的过程中的地方,您应确保您的分析师能够获得广泛的专业知识和智能,以做出更好的决策。

此外,确保学习在整个过程中得到整合,直至并包括考虑何时观察攻击以了解其目标(长期价值)与阻止攻击(短期价值)或两者的组合通过指导对抗蜂蜜罐的对手可以在不造成伤害的情况下研究其特征。

通过包括合成数据和增强现实来改善影响

通过涉及对象检测在训练环境中创建ML应用程序时越来越多地使用合成数据,其中合成环境构建用于学习通过视觉信息导航环境的对象的3D环境。

您可以理解,在通过了解地形挑战和天气条件预测攻击向量时,此添加可以成为C2环境中的强大工具。

为此,可以包含以下合成数据类型:

  • 图像(评论图片和视频);

  • 语音(语音和噪音检测);

  • 文本(文本分析);

  • hybrid(上述数据类型的强大组合,以提高准确性和上下文)。

一个有趣的例子来证明这一优势是搜索和救援行动,其中时间对于寻找幸存者/受害者至关重要,以及挑战包括:

  • 在低光照,天气或复杂地形等因素(即森林和海洋)的救援情况下难以找到幸存者。

  • 人眼在短时间内处理的信息太多。

  • 资源瓶颈需要创造性的解决方案以最大化效率。

在ML和合成数据的支持下,可以非常具体地搜索找到幸存者/受害者的最佳机会:

  • 为机器提供数据允许他们创建用于识别对象的算法。

  • 这些算法可用于扫描照片,视频和音频数据,以寻找幸存者/受害者。

  • 当存在关于存储,访问和计算“真实”数据的合规性和隐私问题时,它很有用。

合成数据支持可以呈现附带损害评估或事件的其他影响的场景。一个明显的例子可能是显示服务器遭到入侵和停止运行并限制了指挥官的信息。

指挥官想要知道问题的答案“那么什么?”,例如,受损服务器的停机时间会立即导致电子邮件发送至其操作的延迟至少一小时,或者更糟糕的是,创建一个不完整的态势感知图像。

当增强现实(AR)设备被引入命令后,这些场景的影响可以更加突出。能够提供包括AR设备可能产生的影响在内的所有信息,可以加快指挥官对情况的清晰认识,加快决策速度。AR无缝地融合全息图和现实世界(如上述场景),地面操作员可以投影覆盖图,显示重要的相关信息,帮助他们更清楚地了解手头的情况。

图2:AI支持的OODA决策周期的系统视图。(资料来源:北约科学技术组织STO-MP-IST-160)

利用机器学习和增强现实减少决策的时间和复杂性

ML和AR将能够为分析员和指挥官提供额外的人工智能(AI)服务,这些服务通过使用这些新技术解锁。这将对C2流程的以下部分产生积极影响:

  • 行动方案选项(更精确,更快);

  • 分析数据中的模式和异常以采取行动;

  • 通过聚合孤立的和开源数据进行情报分析,提高了部队的准备程度;

  • 自动分类和处理视觉数据,如侦察图像或训练视频;

  • 自动翻译和转录,以便在多国部队和远征任务中更好地互动。

出现的问题是人工智能可以在未来接管C2流程吗?

在不久的将来,我们将看到ML推动一个应始终由人类管理的过程。在实践中,这意味着ML将推动“没有脑子,非常合乎逻辑”的决策并迅速执行,并且一如既往地在人类的权威和责任下执行。更复杂的决策在执行之前总是需要人工协议,ML可以提供有关如何做的建议。

ML决策的质量继续取决于数据的可用性,数量和质量以及算法的质量。

图3:(网络)指挥与控制的演变轨迹。通过优化专家人类决策减少平均修复时间(MTTR)。(资料来源:微软在北约C2 COE研讨会上的演讲,2018年11月)

(网络)指挥与控制的演变轨迹

我们在C2演变中看到的主要优势是通过以更快的方式优化专家人类决策来减少"平均修复时间(MTTR)"。

下面我们可以看到微软对这种演变的期望,其中C2的演变将继续,并且预计将通过引入AI机器人和AR来提升到新的水平,预计将进一步降低MTTR。

技术将不断改进,分析师和事件响应人员检测和修复事件的能力和速度也将不断提高。进化的速度将受到人类接受和信任预测算法结果的能力的影响,使得他们对做出重要决定感到舒服。

在相对较短的时间内人工智能将优于人类智能的想法得到了众所周知的未来主义者的推广,Ray Kurzweil在其2005年的着作“奇点即将来临:当人类超越生物学” 中提到,到2045年它"它可能确实新技术正在慢慢取代某些认知任务,就像机器在工业革命期间取代体力劳动一样。

未来将告诉我们战斗的结果是否取决于最好的人工智能技术,因此我想结束我的文章,引用微软首席执行官(CEO)萨蒂亚纳德拉关于人工智能应该如何发展的观点:

“我们已经看到人工智能如何应用于良好,但我们也必须防范其意外后果。现在是时候研究我们如何负责任地建立AI并避免竞争到底。这需要私营部门和公共部门采取行动。

声明:本文来自网电空间战,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。