随着人工智能(AI)在军事平台上的迅速融合,现代战争正经历一场革命,AI在决策、侦察和目标识别方面提供了前所未有的能力。然而,对AI系统的日益依赖也引入了关键的脆弱性,尤其是在其训练数据集的完好性方面。

近日,西点军校利伯研究所的亚伦·孔蒂(Aaron Conti)少校发表文章,深入探讨了将数据投毒作为一种战略性隐蔽行动的可能性。文章认为,根据《美国法典》第50卷(战争与国防)实施秘密数据投毒行动,可有效对抗对手的AI系统,从而使美国在未来的冲突中获得决定性的不对称优势。

什么是数据投毒?

数据投毒是指将受损或对抗性数据引入机器学习模型的训练数据集中,导致其行为不可预测。常见的技术包括“标签翻转”(改变数据集标签以造成错误分类)和“后门攻击”(植入触发器导致系统定向故障)。

目前,包括中国和俄罗斯在内的潜在对手,正日益依赖AI进行军事决策,包括侦察和目标识别。通过在训练阶段秘密引入被操纵的数据,可以使敌方AI系统失效,例如错误识别美军资产或误判战场情况。例如,敌方无人机可能因此错误识别美军装备,从而为美军提供战术优势。这种策略类似于第二次世界大战中密码战等不对称战争的例子,通过破坏性行动获得显著的战略利益。

对手的应对措施

尽管数据投毒为美国提供了战略优势,但对手也在积极开发防御措施来保护其AI模型,包括数据完整性防御、对抗性训练和异常检测技术。保护训练数据供应链、进行可信数据集验证以及数据核查,是对手防范投毒尝试的关键方法。

文章强调,要维持美国的优势,投毒策略必须超越报复性或被动性操作。最困难且风险最高的策略是策反敌方AI工程师,由他们故意操纵或利用敌方AI系统及其组件,但这将确保最大的成功率。此外,渐进式和时间延迟式投毒等高级技术,即引入微小、累积的扭曲,能更有效地逃避检测。同样,隐蔽的后门嵌入,即投毒数据仅在特定条件下激活,是确保在敌方AI模型中长期存在的最终目标。

文章还警示,数据投毒并非单向武器,它具有相互威胁的性质。正如美国可能采取秘密手段降低对手AI的可靠性一样,也必须预期并防范针对其自身系统的类似行动。

人工投递与情报策略的融合

尽管数据投毒会产生网络效应,但其投递方式不一定仅限于数字形式。文章指出,注入投毒数据最有效(尽管操作复杂)的方法可能是通过人力情报(HUMINT),特别是秘密派遣军事人员或机构资产进行渗透。直接接触对手的实验室、学术管道、军事采购承包商或训练数据存储库,可以实现难以检测和几乎无法追踪的持续、定制化投毒。这种人工投递方式允许缓慢投毒、基于触发器的后门以及有针对性的训练扭曲,从而规避复杂的异常检测。

中国是世界上最大的AI人才生产国,但美国仍然是研究生学习的首选目的地。来美留学的中国人工智能博士生中,超过百分之九十在毕业后都留在了美国。这种情况既创造了机遇,也带来了风险:对全球人工智能渠道的秘密利用不仅成为可能,而且具有战略必要性。

文章最后强调,未来战争的决定性因素不仅在于谁能构建最先进的AI系统,更在于谁能最有效地利用、破坏和控制支撑这些系统的底层数据环境。通过将攻击性和防御性数据战略整合到国家安全框架中,美国可以在AI战场中获得持久优势,甚至无需发射一枪一弹。

射声有言

当无线电和雷达在军事上大规模应用的时候,就同步开启了电子对抗的时代。同样的,当人工智能大量应用于军事时,也就开启了人工智能对抗的时代。

电子对抗主要在信号层面进行,人工智能对抗则主要在数据层面展开。

等认知电子战全面应用了,战争双方可能会用数据投毒的手段来反认知电子战。这种数据投毒可以在电磁域依托精心设计的电磁信号来实施,也可以直接在数据域对数据本身做手脚。

④文章认为人力渠道是实施数据投毒的最佳途径,更是直言不讳地将赴美学习人工智能的中国留学生群体视为战略资源。

声明:本文来自电磁频谱战,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。