前情回顾·生成式AI安全

安全内参3月5日消息，大多数人听到网络攻击时，会想到显示器黑屏、勒索软件信函以及DDoS攻击，这些攻击通常会导致连接中断数小时甚至几天。

然而，一些专家担心，随着黑客们广泛使用人工智能（AI）工具，我们可能正在进入“网络物理攻击”时代。这些黑客可能是独狼，也可能得到国家支持。

上个月，美国联邦调查局（FBI）向国会发出警告，称外国黑客已深入美国的网络基础设施，试图造成破坏。FBI局长Christopher Wray表示，对手国家政府支持的黑客正在瞄准美国的供水处理计划、电网、交通系统等关键基础设施。

麻省理工学院工程系统教授、斯隆管理学院网络安全系联合创始人Stuart Madnick，研究网络-物理结合领域并发表过相关文章。他表示，随着生成式AI的广泛普及，网络犯罪者在下一阶段发动物理攻击的概率正在增长。

不止是让系统离线

Madnick表示，他带领研究团队在实验室里模拟了网络攻击，结果引发了物理爆炸。他们成功入侵电脑控制的带泵电动机，并使其燃烧。如果攻击可以导致温度计故障、压力值爆表、电路被绕过，也会在实验室环境中引发爆炸。Madnick认为，这样的结果表明，传统网络攻击只是让系统暂时离线，而网络物理攻击带来的后果远甚于此。

Madnick说：“如果通过传统网络攻击让发电厂停止运行，它很快就会恢复并重新上线。但是，如果黑客让发电厂爆炸或烧毁，就无法在一两天后恢复在线状态，因为这些专用系统中许多零件是定制的。人们还未意识到，停机时间可能会很长。”

他补充说，借助AI技术，网络攻击技术已经能对物理系统造成严重破坏。但要发动这样的攻击，必须具备三大因素：能力、机会和动机。

Madnick说：“只有缺少动机才会真正阻止坏事发生。比如认定对物理基础设施的攻击将等同于战争，到目前为止，这是各国尚未触及的领域。”

PLC将成为工业系统薄弱环节

不过，专家们对网络物理攻击的威胁程度以及AI如何提高这一威胁存在不同看法。

安全厂商Lacework的首席信息安全官Tim Chase表示，存在大量使用可编程逻辑控制器（PLC）的系统是美国基础设施的薄弱环节。

Chase担心，黑客可能利用生成式AI辅助为PLC创建代码。一旦恶意行为者控制了PLC，他们就可以对工业系统造成严重破坏，导致实际的物理问题。虽然工业控制系统很难被黑客攻击，但Chase担心AI为“中等水平的黑客”提供了提高攻击技能的工具。

Chase认为：“AI可以使那些缺乏技能和耐心的人更容易攻击工业控制系统。”

在美国，很多工业和医疗系统仍然严重依赖几十年前的遗留系统，这些系统的保护措施非常薄弱。AI的到来将使这些漏洞更为容易利用。Chase说：“每当攻击变得更容易，攻击的发生频率就会增加。”

攻防对抗将愈加激烈

美国叶史瓦大学卡茨科学与健康学院项目主任兼教授、网络安全管理平台Onyxia首席执行官Sivan Tehila也担心网络物理攻击的潜在上升。

Tehila说：“AI支持的网络攻击可能很快就会发生，它们极为复杂、难以检测和缓解。”

但是，她认为AI也在帮助防守方。Tehila 表示：“AI可以分析大量数据并实时识别恶意活动，在增强网络防御方面发挥关键作用。”Tehila曾在以色列国防军服役，从事网络安全工作。

Michael Kenney是匹兹堡大学教授兼该校马修·邦克·李奇微国际安全研究中心主任。他认为，网络犯罪分子如果尝试摧毁物理基础设施，也会面临风险。他们不想大面积摧毁互联网，毕竟互联网是他们的立足之本。他说，一般来说，恐怖分子更有可能使用过去奏效的现有工具，如武器和军事装备。

但是，Madnick仍然忧心忡忡地表示：“一个物体爆炸时，不仅会摧毁其本身，还会摧毁附近的其他物体。这会带来更大的问题，还会造成人身伤害。”

参考资料：https://www.cnbc.com/2024/03/03/cyber-physical-attacks-fueled-by-ai-are-a-growing-threat-experts-say.html

声明：本文来自安全内参，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。