AI是最近Sino-Us经贸会谈的一个核心话题。按贝森特对美媒的表态，双方倾向于建立AI对话机制，针对共同风险/国家安全事件建设通报机制。贝森特明确，对话不触及先进制程AI芯片以及半导体设备的出口管制。几个简要看法：

1、美中都认为应当隶属于AI安全对话的领域是清晰的，至少包括网络攻击、军控（CBRN）以及生化。这些关切，实际从2024年开始，就是美安全治理的核心关切，是拜登2024年14110号行政令的核心组成。特朗普虽然推翻了行政令本身，但这套安全叙事并没有改变。

2、虚假信息是民主党语境下AI安全的一个子议题。但从美国内环境看，两党制下，这个问题本身有争议性；从国家间关系看，除非发生所谓剑桥分析这类的事件，虚假信息更多是一个国家内部治理问题。其进入国家间安全对话的必要性、可行性都不强。

3、蒸馏更多是产业实践与商业竞争的问题，各执一词，分歧较大，不应该也不足以成为国家间的安全对话议题。

4、开源成为安全对话议题的时机尚不成熟。今天讨论安全，从前沿实验室和官方机构所发布的安全报告来看，无论是模型自主性导致的安全隐忧方面，还是人为滥用方面，都聚焦在前沿模型。这从一个侧面验证，开源模型尚不足以在网络攻击、军控与生化方面，产生真切的作用力。

但这不等于说开源的风险是不存在的。随着前沿模型能力的持续改进，开源模型能力势必水涨船高，叠加开源有利于应用的势能，开源滥用很难不成为一个话题；但这个议题，恐怕将更多通过既有规则来解决，比如开源+社交欺诈，开源+金融欺诈，都有成熟的应对方法，要改进的是传统行业监管，而非打包谈开源安全或借此限制开源发展。

5、有争议的是芯片出口管制问题。按BIS的逻辑，2023年以来，触发管制的核心因素，就是涉及军事与国家安全。既如此，防止高端芯片的“无序扩散”，确保高端芯片有序有利应用，理当成为双方安全对话的一个方面。这方面，H200许可对华出口，或许可以提供某种思路，如双方通过限定最终用户、严格流程验证等措施，商量出一套有序的扩散方案。另外，如果双方在AI安全方面，的的确确取得实际进展，这相当于承认AI触发严重安全问题的可能性受到了限缩与约束，这时候，还持续搞严格管制的必要性，其实也随之降低了。

为保证阶段性对话实际成果产出，不将管制问题纳入安全对话机制，是可以理解的。但从产业实践需求看，从法理逻辑看，没有管制议题的安全对话，是不完整的，甚至是缺乏灵魂的。

6、当前AI安全对话，仍主要聚焦于AI的人为滥用。这里涉及一个有趣的背离：当鼓吹AI存续性风险的时候，强调的都是AI自主演进所带来的巨大毁灭性风险，而当聚焦AI安全对话时候，则强调人的因素。

那么，如果巨大的风险，更多来自于AI的递归演进，那么安全合作就不应当止步于人，不应当止步于事后的信息通报这一层，而应前置到应用甚至研发环境。但从Fabel的一些做法来看，这一块哪怕是商用都受到极大限制，中间有巨大的不信任，遑论国家间安全合作对话。而这，会让安全对话的成色减损。

本文仅做学术探讨与市场研究交流使用。文中所有信息均来自公开渠道。相关判断不代表任何公司或企业立场，也不构成任何投资建议。转载请注明来源。

声明：本文来自安承宏观，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。