注：本文编译自Palo Alto首席安全情报官-Wendi Whitmore近期发表的一篇文章，请以英文原文为准。

前言

代理式人工智能的出现改写了网络安全攻防两端的对抗规则。随着新兴AI工具和工作流程所带来的潜在攻击面不断扩大，为应对人工智能驱动的网络威胁的快速性、多样性和复杂性，组织需要超越安全技术措施本身。新形势新威胁要求组织的安全防护思维方式发生深刻转变，转向一种以人为中心的、具有高度安全意识的企业文化。在这种网络安全文化影响下，信任和赋能成为组织的第一道防线。

组织内每个部门和个人都必须将网络安全视为自身的关键职责之一。这意味着要为员工充分赋能，确保每一位员工在面对各类网络威胁时都有意识和能力做出明智的、安全的决策。这意味着要持续营造一种安全文化环境和氛围，使员工在发现疑似网络威胁或不安全的网络行为时敢于发声，及时上报风险，请求协助或相互提醒。更关键的是，这意味着要确保组织内的各级领导都掌握在最坏的情况发生时-即遭遇重大网络攻击或数据泄漏事件时-如何有效地对外对内沟通与协作。

网络空间新战场：代理式人工智能与日益扩大的脆弱性

在本文原作者从事计算机犯罪调查的职业生涯中，包括在空军特别调查办公室担任特工的时候，亲眼目睹和经历了网络攻防对抗最前线的不断演变。如今，很显然，网络空间已成为不法分子实施攻击与破坏的主战场—无论是企图窃取重要国家机密或破坏关键基础设施的国家行为体，还是为牟取非法经济利益而破坏企业正常运营的网络犯罪分子。

代理式人工智能的发展极大地加剧了这一安全挑战。所谓的代理式人工智能，本质上是指被赋予自主决策与独立行动能力的AI系统，这也会将攻防双方推向轮番上演的“军备竞赛”。我们必须不断地问自己一个问题：我们的防御是否足够敏捷和聪明，能够与攻击方保持同步，抑或是攻击方会占据上风？这场竞赛的核心在于：攻击者可以利用智能体AI设计全新的攻击能力，并以惊人的效率协同攻击的速度。同样关键的是，作为防守方，我们必须以同样的速度检测到这些攻击行为并做出有效响应。

我们不能再将我们的防御体系视为一个拥有简单且坚硬外墙的堡垒。攻击面（攻击者可以尝试入侵的所有潜在攻击入口）如今在不断扩大，包括移动设备、物联网设备、云计算环境、供应链基础设施，以及被闲置的传统网络设备或暴露的端口，也包括人员的行为。我们需要清晰的可见性，并具备在每个可预见的节点识别恶意行为的能力，无论是计算机之间的交互，还是应用程序与数字基础设施各个层级之间的通信。

信任的侵蚀：人工智能驱动的欺诈

令人担心的是，先进的人工智能技术能够被巧妙地用于操纵他人，为安全防御工作增加了另一层复杂性。攻击者已经开始以多种方式运用人工智能，尤其是在设计社会工程学骗局方面，其逼真性与可信度已达到前所未有的程度。例如，曾经可能暴露攻击企图的微妙线索-如语言差异、措辞风格、语法错误、标点符号等问题，如今几乎完全消失。

这种能力现在已经令人不安地扩展到语音欺诈和视频欺诈领域。攻击者有可能只需截取某人5 - 10秒的语音片段，然后以惊人的准确度复制它，即利用少量原始音频数据生成高度仿真的合成语音，这使得检测基于语音伪造的欺诈变得更加困难。深度伪造视频技术的迅猛发展，进一步模糊了真实和具有操纵性的仿冒之间的界限。弄清楚你究竟是在和同事视频对话，还是在和人工智能生成的数字人说话，将变得愈发困难，这将成为一个更普遍的挑战。

这意味着我们不能仅仅依靠传统的身份验证方式。如果攻击者的目的是获取某人的身份以访问敏感信息，那么至关重要的是，我们流程中的所有后续步骤都应该有更加安全的防护措施。涉及重要数据的每一次访问、编辑或传输，在每个阶段都必须有可靠的验证。

超越技术：数据、流程和人的持久力量

如今，企业平均每起数据泄露事件造成的损失接近500万美元。因此，毫无疑问，强大的网络安全能力是一项真正的商业优势。在严峻的网络威胁态势下，取胜的关键在于是否能够在检测攻击者活动时，精准获取所需的正确信息。随后，必须几乎瞬时地判断出：该活动是合法操作，还是恶意行为？

在这一领域表现卓越的组织通常拥有优秀的安全人才和先进的安全技术。他们还确保技术提供的可见性实现集中化管理，这使得系统可以自动化处理大部分的初始检测工作，从而使安全人员能够专注于调查最复杂、最棘手的情况。反之，若防御方仅仅是堆砌了一堆无法有效协同的安全工具，攻击者很快就会利用这些漏洞。

当今组织面临的最紧迫的安全挑战之一是“影子AI”-即员工在缺乏公司管控与监督的情况下，部署和使用未经授权的AI模型或AI工具。部分员工可能会在日常工作中为了提升效率或心存侥幸心理，绕过公司的安全措施与合规政策要求。首席信息官和首席信息安全官经常提出这样的疑问：“如何确保组织安全地使用人工智能？如何掌握各个部门正在使用哪些人工智能应用程序？组织的哪些数据可能会被投喂给AI工具？”。组织规模越大，地理分布越广，这些问题就越复杂。这使得制定一个清晰的、集中式的人工智能安全管理策略—包括AI应用的合规使用和强有力的数据泄露防范措施—变得比以往任何时候都更为关键。安全团队需要明确哪些AI应用获准使用，并确保员工不会无意中将未经批准的新应用引入到办公环境。

然而，即便采取了这些策略，安全挑战依然存在。如何防止组织内的敏感数据意外地输入至公共的AI工具是很多组织一直在努力做的事情。确保内部安全防御体系能够应对日益演变的AI驱动下的自动化、智能化攻击，是另一项持续推进的工作。更重要的是，还必须解决AI系统输出结果的信任度问题。这些AI系统仍然经常需要人类的监督和验证，以防止出现“幻觉”或简单的逻辑错误等问题。

网络安全文化：人类的终极防火墙

当我们审视当下面临的各种网络危险时，不难发现，它们比以往任何时候都更迅速、更复杂，规模也更庞大。甚至一些国家行为体从网络犯罪团伙那里借用技术，攻击者能在安全漏洞被曝光的数分钟内就在全球供应链中利用这些漏洞。这种情况凸显了一个简单真理：技术本身，无论多么先进，都不是灵丹妙药。

因此，本文作者的终极建议是不要仅仅局限于技术层面。网络安全不仅关乎最先进的技术工具，更关乎让优秀的专业人才加入安全团队。从根本上说，需要在组织内打造出一种无处不在的、深入组织DNA的网络安全文化。

这种网络安全文化在实践中表现在哪些方面呢？

1）共同责任：从法务部门到运营部门，从财务部门到人力资源部门，组织内的每一个部门和个人都能够认识到安全的重要性，并内化安全责任意识。

2）充分赋能：明确员工在维护组织网络安全中的定位和作用，并通过安全意识教育与培训为员工充分赋能，提升全体员工的网络安全综合素养和防范能力，从而在日常工作中面对网络威胁时能够做出正确的安全决策。鼓励员工在发现异常情况时积极上报风险，敢于质疑而不必担心丢脸。

3）有效沟通和准备就绪：组织内各层级管理者必须清晰地认知自身的安全角色与责任。关键的是，他们必须知道当发生安全事件时如何在组织内部与外部进行有效沟通和协调。对各种风险场景和安全事件的应急演练和测试做得越多，组织就越能做好充分准备，也就越安全。

在这个代理式人工智能正无情地加速网络安全挑战的时代，唯有打造出一种在相互信任、共同责任和持续警惕基础之上的、深入人心的网络安全文化，才是任何组织最具网络弹性与适应性的一道安全防线。这意味着持续营造一种安全氛围和环境，使每个人都明白自己在维护组织网络安全中的重要作用。通过这种方式，将整个员工队伍转化为整体安全解决方案中一股积极主动的、不可或缺的强大力量。

声明：本文来自超安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。