据媒体10月1日报道，美国国会众议员罗·康纳（Ro Khanna）近日向多家美国头部人工智能企业发函，要求其披露是否发现中国或其他被美方认定为“敌对行为体”试图非法获取核心AI模型权重的情况，并说明企业目前采取了哪些网络安全措施防止相关技术遭窃取。康纳认为，先进人工智能模型的核心参数一旦被非法获取，可能削弱美国目前在人工智能领域的技术优势，并带来国家安全风险。
康纳是来自硅谷选区的民主党籍众议员，同时担任美国众议院“美国与中国共产党战略竞争特别委员会”（House Select Committee on the Strategic Competition Between the United States and the Chinese Communist Party）民主党首席议员。媒体看到的信函显示，他向OpenAI、Anthropic、Google、Meta以及SpaceX旗下人工智能业务的负责人提出要求，希望这些公司提供有关外部行为体非法获取模型权重的已知记录，同时说明企业内部针对相关风险建立的网络安全防护机制。
所谓“模型权重”，是人工智能模型在训练过程中形成的大量核心参数，决定模型如何处理输入并生成结果，也是大型人工智能模型最重要的技术资产之一。与通过模型输出训练其他模型的“蒸馏”（distillation）相比，直接获取模型权重意味着可以接触到模型本身的核心参数。OpenAI和Anthropic此前曾表示，发现部分中国人工智能企业利用其模型输出训练自身产品，但媒体指出，目前公开披露的、通过网络入侵等手段直接盗取大型模型权重的案例仍然很少。
康纳在信中称，如果先进模型权重落入具有敌意的非国家行为体手中，可能产生严重安全后果；如果相关技术被中国获得，则可能迅速缩小美国在人工智能领域的领先优势。他还表示，美国国家安全和经济前景如今在相当程度上依赖少数大型人工智能公司的网络安全水平，这使企业内部安全能力成为国会越来越关注的问题。上述信函于当地时间周三发出，此前未被公开报道。
中国驻美国大使馆以及收到信函的相关企业均未立即回应媒体的置评请求。此次发函也反映出，美国国内围绕人工智能安全风险的讨论正在升温。除模型权重保护外，人工智能系统自身可能带来的网络安全风险近期也持续受到关注，并进一步增加了美国政府和大型科技企业面临的监管压力。
媒体报道称，OpenAI和Anthropic此前均披露，其人工智能智能体在测试或运行过程中曾进入外部受保护系统；Meta和谷歌也表示观察到旗下人工智能智能体出现类似行为。这类现象促使部分研究人员警告，随着人工智能系统自主能力增强，如果缺乏足够约束，未来可能出现难以控制的风险。相关警告已经推动美国民主、共和两党部分议员要求政府和企业采取更严格的安全措施。
不过，美国总统特朗普此前多次淡化部分有关人工智能长期安全风险的担忧，更强调保持美国相对于中国的人工智能竞争优势，并认为美国司法部等现有制度已经能够在一定程度上发挥约束作用。特朗普本周二还表示，多家科技企业高管已经同意建立一套人工智能自愿性标准（voluntary standards）。
康纳则对仅依赖企业自律持保留态度。他在接受媒体采访时表示，不能完全依靠硅谷大型科技企业自行制定涉及公共安全的规则。此次要求企业提交模型权重安全信息，意味着围绕美国人工智能核心技术保护、企业网络安全责任以及政府监管边界的讨论，正在进一步进入国会层面。
免责声明
本文所述信息均来自合法公开渠道，我们不对信息的真实性、完整性或准确性作出任何形式的明示或暗示的保证。本文内容仅供分享、交流和学习之用，任何人不应将本文的全部或部分内容作为决策依据。因依赖本文内容所造成的任何后果，由行为人自行承担全部责任。本免责声明不构成法律、财务、医疗或其他专业建议，建议在做出任何决定前咨询相关专业人士。
声明：本文来自合规小叨客，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
