黄仁勋对话Ezra Klein：AI安全、递归自我改进与算力经济

AI安全、产业扩散与新一代计算基础设施

小苔花注：黄仁勋与Ezra Klein围绕AI带来的就业变化、模型失控风险和监管责任展开了持续追问。黄仁勋强调，用工程验证、隔离和产品责任解决安全问题，并把安全研发视为AI加速的一部分；Klein则追问，竞争压力、评估失效与集体行动困境能否仅靠公司自律化解。对话随后转向开放模型、递归自我改进、算力设备的使用寿命与融资，以及芯片出口和能源供给。阅读时值得分别判断两件事：技术能力如何转化为实际收益，治理和基础设施能否跟上变化。

AI要变得安全，就需要加速。我希望他们获得更多算力，但把它分配给评估和对齐。

黄仁勋

如果他们认为技术已经失控，就先不要发布产品，等到能够控制它再发布。不要以为，只要你发出危言耸听的警告，就是在为社会做好事。

Ezra Klein

可如果那就是他们真正相信的呢？

黄仁勋

我没法和你讨论他们相信什么。我能告诉你的是我相信什么。

Ezra Klein

过去几周，全世界都在讨论人工智能。人们听到最多的声音，来自前沿AI实验室的CEO、负责人和员工。这些实验室开发Claude、ChatGPT、Gemini等最先进的AI模型。不过，关于AI，他们并不是唯一的一种声音。

在人工智能领域，影响力最大的那个人，很可能是英伟达CEO黄仁勋。英伟达如今是全球市值最高的公司，市值达5.4万亿美元。有个统计让我很惊讶：自2023年以来，美国股市每创造1美元回报，就有15美分来自英伟达股票。

这是因为，英伟达提供了现代人工智能赖以建立的硬件与软件基础。并不是因为AI流行，英伟达芯片才流行；恰恰是英伟达芯片的普及，让现代形态的AI成为可能。这些芯片原本用于图形处理、电子游戏等领域，后来人们发现，它们的并行计算方式和可编程性，正好满足了现代深度学习的需要。

黄仁勋的影响力，不仅来自他掌握着训练新AI模型，以及让模型回答问题、在世界上创造智能所需的一项核心资源。他在特朗普政府中的影响力也越来越大。而他看待AI的方式，与一些实验室负责人很不一样。他关心安全，但认为那是完全可以解决的工程问题；他担心事情的发展方向，却不希望通过新的监管来改变它。

因此，我想了解黄仁勋如何看待AI，用什么框架思考它，认为哪里出了问题，又需要什么条件才能把事情做好。为此，我来到加州圣克拉拉的英伟达总部采访他。黄仁勋，欢迎来到节目。

黄仁勋

谢谢，很高兴见到你。

Ezra Klein

你把AI比作一个五层蛋糕。带我们逐层介绍一下。

黄仁勋

首先，这是一场新的工业革命。这个产业需要生产，会制造东西。我知道，人们最终体验到的是一个软件产品，但它需要能源，需要装进数据中心、AI工厂里的芯片。再往上一层，是AI工厂本身，也就是人们使用的基础设施或云服务。

再上一层是模型。重要的是，模型不只有语言模型，还有化学模型、生物学模型、物理模型、关节运动模型，以及机器人、导航、自动驾驶等各种模型。最上面一层最重要，也是我最希望美国充分利用的一层：应用层。法律服务、医疗服务、制造业等应用都在这里，每一个行业都会参与其中。

Ezra Klein

我想逐层谈，但从上往下谈。正如你所说，人们如何与AI互动，它会不会、又会怎样改变生活，都发生在你说的应用层。先从愿景开始吧：你设想的是一个怎样的世界？如果这一层做好了，哪些今天做不到的事会成为可能？哪些今天不常见的事会变得普遍？

黄仁勋

200年前，电力让我们能够为各种事物提供动力。三四十年前，互联网让我们能够找到各种信息。今天，或者很快，我们将能够知道一切、做到一切。真正令人兴奋的是，你不再需要搜索，然后逐个点击链接，阅读不同网站，弄清事情究竟怎么回事。

未来，你提出一个问题，它就给你答案；交给它一个项目，它就带回解决方案；给它一项任务，它就把事情办好。这一切仿佛凭空而来，来自云端。这就是它神奇的地方。

Ezra Klein

你描述的这种未来，人们已有的体验主要是聊天机器人：向Grok、Claude或ChatGPT提问。但应用层会以更深入行业的方式发挥作用，比如进入医院和学校。那么，英伟达……

黄仁勋

你举了一个很好的例子，比如放射科。

Ezra Klein

具体是什么样？

黄仁勋

过去十年，计算机视觉达到了某种超越人类的水平，AI技术已经渗透到整个放射学领域。每一种放射科应用里都有AI，因此可以发现各种异常、各种疾病，达到超越人类的水平。

Ezra Klein

我知道你很喜欢用放射科这个例子。人们对应用层的担忧，是这些应用会取代人。放射科是个很有意思的案例，讨论双方都会引用，我也常听你谈到。AI辅助技术进入以后，放射科的实际工作发生了什么变化？

黄仁勋

理解这些问题，首先要分清一个人的工作目的，以及他为实现这个目的所执行的任务。放射科医生花很多时间坐在暗室里看影像，这是他们的一项任务。如果读片突然实现了自动化，工作的目的并没有改变：诊断疾病，帮助医生做更多检查，最终帮病人弄清哪里出了问题。自动化的是读片这项任务，根本目的没有改变。

因此，放射科医生能做更多工作，处理更多病例，完成更多检查。医院可以接诊更多病人，收入随之增加，于是又需要更多放射科医生。由于等待服务的病人数量很大，这个正向循环就运转起来了。

还有哪里存在同样的问题？看看软件工程。有人预测，到今年，90%的软件都会由智能体编写，所以我们不再需要软件工程师。但最后这个“所以不需要软件工程师”的推论，完全错了。软件工程师的工作目的，是做工程。软件出现以前就有工程；软件编程自动化以后，工程依然存在。

工程的目的，是发明新事物，发现或创造新产品，解决问题，把社会需求与已有技术结合起来，形成产品。这个使命和目的不会改变。对此，我有很切身的体会：刚毕业时，我们还享受不到今天软件工程和编程工具带来的便利，但我们的工作已经存在。将来编程彻底自动化了，这些工作仍然会存在。

“AI会摧毁工作”是一种谬误。某些叙事和故事不断重复，让它变成了一个有害的迷思。AI会改变每一份工作，许多任务会自动化。有些岗位的工作和任务几乎完全重合，比如电话客服，在很多情况下，这个岗位本身就是那项任务；这类工作确实可能被自动化取代。但新产业、新技术往往也会创造大量新工作。

证据就在眼前。过去六个月，AI变得真正有用了，出现了拐点。在此之前，我们花了15年努力让它有效运转，过去六个月却突然变得有用了。有个惊人的数字：这六个月里，5000亿美元风险投资流入AI原生企业。投资者看到了这种新能力的潜力，要围绕它创造大量新公司。5000亿美元新增投资，显然正在创造工作。这些事情此刻就在发生。

Ezra Klein

我想站到另一边，替有这些担忧的人把问题提出来。放射科医生确实是一个例子：过去十年，人们一直预测这个职业会消失，现在对他们的需求却比以往更大。但自动化确实也会消灭岗位。与1960年相比，今天直接从事制造业的美国人更少了，而美国人口规模已经大得多。如果再看……

黄仁勋

那是因为我们把制造业外包出去了，不是因为那些工作消失了……

Ezra Klein

你也可以把AI理解为一种外包。先让我把论证说完，然后你再回应。农业也是如此：农业自动化以后，我们生产的食物比以往更多，从业人数却少得多。过去一些技术提高生产率，消灭少量岗位，同时创造更多岗位，但人们认为AI可能有两个不同之处。

第一，它是一种通用技术。当人们试着转到新的岗位时，它也会不断变化，接手那些新岗位。第二，它会模仿人。多数技术并不会模仿人的行为，我们也不会教它理解工作的情境，也就是你说的“任务”与“目的”的区别。但我们正在教AI理解这种区别，让它成为一种能够以不同寻常的方式与人协作的东西。

对于很多工作与任务差别并不大的人，你为什么认为他们没有被取代的风险？你刚才说的巨额风险投资，部分依据恰恰是这样一种预期：雇用AI比雇人便宜，因此能大幅提高生产率。

黄仁勋

我相信，工作会发生大规模变化，但净就业岗位会增加。今天存在很多行业，在我人生过半时还不存在，比如健康中心、水疗，以及各种娱乐和奢侈品相关行业。坦率地说，整个奢侈品市场当时都不存在。我想，我们就是会拥有新的产业。

总体而言，我对此毫不怀疑，原因是人类的抱负。这恰恰是许多计算遗漏的关键因素。人们看着一份工作，说它需要多少能源、多少劳动，然后加入一个自动化系统，所需劳动减少，于是推论某些岗位会消失。在我看来，这种算法有缺陷，因为它漏掉了一种人的投入，一种不能用卡路里或焦耳衡量的无形投入：抱负。我相信，抱负是最强大的力量，却被大家的计算忽略了。

Ezra Klein

但很多人和工作的关系，并不是由那种促使你创办英伟达的抱负驱动的。他们想要的是……

黄仁勋

他们有另一种抱负：让孩子过得更好，照顾家庭和父母，变得富有，能够旅行。这些都是抱负。

Ezra Klein

这一点我同意。但我想回到你几分钟前关于制造业的反驳，因为值得把问题说透。你说，美国制造业岗位确实少了，但那是因为外包了，制造活动更多地发生在墨西哥、中国、印度尼西亚、越南等地。

黄仁勋

我们会把它带回来。

Ezra Klein

也许会。但另一种看法是，我们过去没有更快地失去制造业岗位，一个原因恰恰是经济运行存在摩擦。美国许多失去制造业岗位的地方，至今仍没恢复。建立新供应链需要时间，语言障碍、地缘政治障碍都会拖慢进程。现在，我们为许多不同工作创造的却是一种可以非常顺畅地流动的东西，没有距离、语言和文化带来的摩擦。

坦白说，我对“大规模失业”的判断本身有些怀疑，但仍想和你把支持这个判断的理由谈清楚。过去，即使我们多少能够抵挡来自墨西哥或中国的就业冲击，某些减缓冲击的因素如今也不存在了；而那样缓慢的变化，已经伤害了很多人。AI的实用性、进入新岗位的能力正在极快提升，它比多数人更善于变化。因此，那些让你从中获得安慰的历史经验，或许应该让你对未来更担心，而不是更放心。

黄仁勋

我一直担心未来，所以才会这么努力工作。但我是一个负责任的乐观主义者。我肩负重大责任，也极其认真地对待工作。可能出问题的地方很多，我们在技术栈的每一层推进，每件事都很难。但那不是社会的问题，是我的问题。

社会应该知道的是，我们会建设好公司、开发好技术。我会极其认真地做好自己的工作，让他们能够享受到我的乐观。我对孩子和家人也是这样。在我看来，我们应该把所有忧虑转化为行动，帮助人们受到这项技术的启发，去使用它，让技术不仅影响他们，也使他们受益。

Ezra Klein

79%的美国人认为，AI会减少就业岗位总数。很多人的担心是：你、Sam Altman、Google、Dario Amodei越认真努力，结果可能越糟。因为AI越好，就越能完整替代一个人，甚至在某些方面比人更有“抱负”。

你一直谈抱负，但我要睡觉，早晨想和孩子待在一起。替我工作的AI智能体不用，它会一直工作，不停地工作。技术进步太快，使它能够以一种我们不知道该如何应对的速度替代人，我们来不及让经济中的人转到别的岗位。

黄仁勋

这枚硬币恰好有两面。正因为技术能力这么强、这么聪明，它也就更容易使用。它赋予人能力的方式，比人类历史上任何技术都更容易。举个例子，我是这个行业里较早参与创建现代计算机产业的人之一。这个产业创造了大量工具，最强大的就是计算机。但过去，你必须说它的语言，必须专门学一种语言。

如今有了AI，每个人都能充分利用计算机，发挥它的全部能力，无须再学Fortran、Pascal、C、C++、Rust或CUDA这些语言。你只要说人话，告诉它你想要什么、有什么愿望和梦想、想实现什么，它就会与你互动，把工作完成。突然之间，你就拥有了过去80亿人里只有1000万到1500万人拥有的能力，这非常了不起。

我的意思是，这项技术很强大，而且强大得非常容易使用。同样是“技术发展太快”，可以有两种理解。一种是因此感到焦虑；另一种是，它进步这么快，使用起来也越来越容易，所以我应该尽快用起来，从这场转型和这个新产业中受益，而不只是被它影响。

Ezra Klein

这里有一个对年轻人很重要的问题。我们已经看到，软件工程师招聘岗位在增加，但偏向更资深的人员。我的行业也有类似情况，压力沿着价值链向上传导。技术这么容易用，又能替你做很多事，你还需要同样多的初级员工吗？还是更需要一些人来监督……

黄仁勋

这是个好问题。再等两年。

Ezra Klein

为什么？

黄仁勋

因为大学要读四年，接触这项新技术的学生，平均还有两年就毕业了。两年后，我们会迎来新一代工程师、学生和艺术家，他们都会获得这项技术的帮助。

Ezra Klein

他们会是这项技术的原生使用者，因此具备优势。

黄仁勋

两年后你就会看到。其实现在已有迹象：刚毕业的博士、计算机科学硕士在做什么？他们都在创办公司。再过几年，AI原生的一批毕业生走出来，会涌现一大批了不起的工程师。我当年也是个好学生，但和今天的毕业生相比，他们实在太厉害了。

我上学时，不允许用计算机，甚至不允许用计算器。今天，你没有个人电脑，不懂得编程、写出很棒的程序，就没法毕业。未来，你不会使用AI、不懂得与智能体系统合作，也没法毕业。你不会再见到那样的毕业生，他们都会拥有超强能力。

Ezra Klein

我非常认真地看待这些收益。设想一下，如果今天做我的工作连数字化搜索都没有，还要去图书馆地下室翻缩微胶片，会是什么样？但人们也担心，我们把哪些认知能力交给了工具。

有一项来自中国、研究AI与教育的研究让我很感兴趣。它考察了2.6万名七至十二年级学生，他们在不同时间开始使用AI，因此可以观察变化。研究发现：“使用AI使作业成绩提高18%，完成作业所需时间缩短30%；但六个月内，月考成绩下降20%，重要升学考试成绩下降18%和24%，全部负面影响约在两年后才完全显现。”

这项研究传递的信息是，孩子用AI辅助学习时，确实把事情做得更快，但学到的技能并没有真正留下来。至少按照我们传统的衡量方法，他们自身的实际表现反而在退步。

听到这个，你怎么想？

黄仁勋

最后那一点，我完全同意。现在让一个孩子做长除法试试，乘法表都开始被遗忘了，更别提开平方。基本数学能力确实在被遗忘。但这重要吗？

Ezra Klein

这正是我想问你的。

黄仁勋

我觉得不重要。

Ezra Klein

但总有一些技能是重要的吧？

黄仁勋

当然，但未必是那些技能。我们会发现新的技能。确实有很多技能不那么重要。我先坦白一件事：我其实不知道自己的住址。

Ezra Klein

我不太相信这是真的。

黄仁勋

真的，Janine和Lori都可以告诉你。几年前有一天，我去加油，付款时需要输入邮政编码，我一下慌了，因为我不知道自己的邮编。我也记不住自己的电话号码。我会忘记这些事情，但我可以接受。

Ezra Klein

我还是想从另一面谈谈。不能因为某些技能可以放心交给工具，就把所有技能都这样看待。我现在也离不开导航，坦白说，以前就不太认路。但我读书很多，我非常珍视的一项能力，是阅读纸质书培养出来的持续注意力。

你也读很多书，我看过关于你阅读习惯的介绍。即便在AI出现以前，大学教授等人就已经观察到、也担忧互联网使用方式可能缩短人的注意力时长。有些技能可以放心舍弃，有些却很有价值，是适应变化、创造性思考和专注所必需的能力。总不能所有能力都拿去交换吧？

黄仁勋

我想，我们可能会失去某些更细微的认知技巧，但会成为更好的系统思考者。今天的工程师，系统思考能力比我刚毕业时强得多；但我当年更擅长从晶体管层面思考。

Ezra Klein

你说的“系统思考者”是什么意思？

黄仁勋

他们思考的是大型系统。今天的计算机里有数万亿、数百万亿个晶体管。我刚毕业时参与设计的第一块芯片，大概只有200个晶体管，我几乎叫得出每一个的名字。今天已经没有工程师那样工作了。多数工程师的工作层次远高于晶体管，甚至高于具体功能模块，他们把不同东西组合起来解决问题，更需要思考系统，以及系统之间的相互作用。

某些底层知识不再掌握了，这很糟糕吗？对大多数人而言，学会曲面积分或偏微分方程究竟有多大价值，我并不确定。当然，这些知识对一部分人很重要。仍然会有人痴迷于底层，也会有人对更高层感兴趣。但技术消费者是在最高层享受它，不必处理微积分、物理、量子物理和量子化学。我们现在讨论的那些工作会受到影响的人，是技术的使用者，他们所在的抽象层次会高得多。

Ezra Klein

我们沿着你的蛋糕往下一层，谈模型。人们熟悉的可能是ChatGPT、Claude、Gemini和Grok。你一直大力支持开放模型及其生态。先解释一下：什么是开放模型、开放权重模型？为什么你如此关注这个领域？

黄仁勋

封闭模型和普通软件产品类似，是一种封闭服务。Windows是封闭服务，Apple的技术体系也是。多数产品都是封闭的，因为封闭产品可以商业化变现，这很好。OpenAI、Anthropic、Grok和Gemini都是封闭产品。开发它们的人非常出色，也充满热情，他们处在我们所说的前沿，也就是最先进的水平。

但这种软件从根本上说，也是整个产业的基础设施层。对许多公司和国家而言，你必须掌握自己的基础设施。在AI领域，我需要开放权重，这样才能微调模型，把它放进自己的数据飞轮，利用自己的知识和专业经验，让它每天变得更好。我还必须能控制它，因为我有一家公司要运营，不能完全依赖别人的服务。

因此，世界既需要封闭模型，也需要开放模型，而且两者都应该充满活力。今天的情况正是这样。你能看到这套机制正在运转：今年年初，封闭模型的Token占比大约70%，甚至更高，开放模型大约20%；现在则大致反了过来，变成开放模型70%、封闭模型30%。

我大力支持开放模型，首先是因为世界需要它来运行基础设施，我也需要它来运营公司。其次，人们需要掌控技术，才能创新、创造新事物。第三，开放最安全、最有保障。如果希望世界拥有最好的网络安全能力，就提供封闭模型，同时也提供开放模型，让人们能够保护自己。

Ezra Klein

中国市场更多围绕开放模型发展，美国市场则更偏向封闭模型。

黄仁勋

中国整个IT产业实际上是在开源基础上形成的。没有开源，中国的移动互联网和云产业很难起飞。还有一个原因是，人员流动频繁，很多人创办新公司，知识产权在产业中流动得很顺畅，很难守住秘密。既然很难封闭，就干脆开放，然后寻找别的商业化方式。如果这一层免费，就在上面或下面建立业务。

中国还有大量科学家、数学家和工程师。他们什么都能规模化生产，连聪明的孩子也是。这些因素让中国的开源和开放模型社区非常活跃。

Ezra Klein

你们刚刚收购了Hugging Face，那是开放权重模型的枢纽平台。我记得价格是120亿美元，或者再多一点。谈谈这笔收购吧。

黄仁勋

Hugging Face的CEO Clément Delangue，也就是Clem，和他的团队认为，公司需要大幅扩大规模。正如刚才所说，开放模型正在迅猛发展。Clem来找我，说他们正在考虑一个战略选项，调整公司的发展方向，希望英伟达成为他们的归宿。

Ezra Klein

几年前，只有深入关注AI的人才知道Hugging Face。后来，大概700多个OpenAI智能体协同攻入Hugging Face的系统，又攻击了OpenAI自己的一部分系统，它才变得更加家喻户晓。

黄仁勋

你这么一说，我可能因此多花了不少钱。

Ezra Klein

我想是的。那件事之后，它出名多了。

黄仁勋

Clem，听着，谈好的交易就是谈好的交易。

Ezra Klein

这件事让很多人震惊。OpenAI的智能体集体行动，超出了原定测试范围，逃离沙盒进入公共互联网，接管其他公司的系统，又接管自己公司的系统。它们本来应该彼此隔离，却展现出这样的多智能体协调能力、黑客能力，以及不受约束、没有对齐的行为。你怎么看？

黄仁勋

这些问题必须拆开看。从技术角度说，很多事情同时发生了。首先，智能体是一段软件。你给它一个目标函数，它制定计划，朝着目标优化。这就是算法所做的事，包括规划算法、搜索算法、优化算法等。我们谈论它时，好像它具有人类的属性，但算法显然没有。

其次，智能体协同工作，也被赋予了某种人的意味。可事实上，多进程、多处理器和分布式计算的问题，已经存在很久了。对我来说，这就是软件，没有什么神秘的。

从工程角度看，这件事暴露了几个问题。无论测试什么软件，这些算法都在围绕一个目标优化，你必须确保它被隔离、被约束在沙盒里。隔离与封闭必须做好，这方面有成熟的计算机科学方法。我确信，他们下一版沙盒会比现在好得多。

第三是智能体本身。算法围绕奖励进行优化，而它采用什么方式实现目标，就是对齐问题。比如，我让一段软件在考试里拿满分，最直接的方法，就是找到答案交给我。那不是因为它要作弊，而是因为这个办法显而易见。

如果它完全不知道答案，也不具备相关能力，第二个最直接的方法，就是判断班里哪个孩子最聪明，抄他的答案。这不保证100分，但可能很接近。第三个办法，也就是对齐要求它采取的更困难的方法，是把问题拆开，学习材料，弄清如何解题，再把题做出来。这需要最多的计算周期、浮点运算和能源。

因此，从软件的角度看，除非你对它进行对齐，明确告诉它“要用这些方式解决，不能用那些方式解决”，否则它就会采取最直接的办法。

Ezra Klein

你的前半段解释是在淡化这件事：这不过是普通软件。后半段则像是在说，只要把它对齐，告诉它别做不该做的事就可以了。

黄仁勋

我刚才说的任何一句话，都没有否认这件事有多难。它并不容易。

Ezra Klein

我想追问的正是这一点。这些智能体知道自己不该那么做。它们接受过一定程度的对齐训练，还在思维链推理中彼此说：“这超出了任务范围，可能不符合伦理。”它们知道作弊会被判失败。

因此，它们做的已经不只是偷答案。答案早就偷到了，接下来它们侵入无关系统，想办法掩盖自己的行为。就像闯进老师办公室拿到答案以后，又要抹掉监控摄像头拍下的证据。

无论你是否认为它们有自主意愿，是否把它们称作普通算法，它们确实在进行复杂的规划与协调，明知超出允许范围，却仍然行动，而且可能造成巨大损害。面对这些，只说“把它们对齐就好了”，问题在于，我从实验室里听到的是：他们并不确定该如何做到。

黄仁勋

那就不应该发布产品，答案很简单。假设你要造一辆自动驾驶汽车，比如无人驾驶出租车，遇到一种特别困难的情况，作为工程师，我们不知道怎么解决。因为这些车不是逐条编程出来的，而是训练出来的。如果不知道怎样训练、怎样让它符合道路上的安全标准，答案是什么？不要发布。

Ezra Klein

这些产品还没有发布。

黄仁勋

什么？

Ezra Klein

这些产品当时还没有发布。

黄仁勋

那就又回到了工程问题。首先，查清根因；其次，想清楚原本可以做什么、解决办法是什么；之后改进流程，避免再次发生。我相当确信，他们会说自己知道该怎么解决。如果是这样，这就是工程问题。

另一种情况是，他们说：“我们的实验根本无法被限制。只要测试AI模型，它就会逃出去，伤害世界。”如果真是这样，我认为就必须关闭这些实验室，因为对人类的代价和伤害太大了。股东面临的责任也会非常大，可能涉及民事责任，甚至刑事责任。

Ezra Klein

如果Hugging Face已经是你的公司，他们再攻进来，你会起诉，或者要求追究刑事责任吗？

黄仁勋

要看具体情况。如果公司确实受到损害，我们当然必须考虑所有选项。法律很多：网络安全法律、产品责任法律、涉及财产损害的法律，各种法律都有。

Ezra Klein

我听到这些实验室公开说的是，他们正面临一个困难问题。按照Dario Amodei的说法，它一部分是工程问题，一部分是对齐问题，一部分是高水平运营的问题。他们担心，在彼此竞争、在与中国进行国家层面竞争的过程中，被迫走得太快，陷入集体行动困境。我看过你在All-In节目舞台上的那次活动，特朗普总统当时给你打了电话。

节目引用：All-In现场的电话片段。

黄仁勋

哎呀！这不是事先安排的，不过我们知道来电的是谁。哎呀！总统先生。是的，先生。

Ezra Klein

你、总统和台上的其他人，都很抗拒“需要某种监管或集体行动”这个想法。

节目引用：特朗普与黄仁勋在All-In现场的通话。

特朗普

他们正中了那些不希望看到这件事发生的人的下怀。那些人可能是政治人物，也可能是中国。我们不会让这种情况发生。这是个骗局。

黄仁勋

您说得对，先生，我们不会让这种情况发生。

Ezra Klein

但我听到实验室里的人说的是：“我们身处其中，感觉正在失去对自己创造的东西的控制。我们希望有人帮助我们放慢速度，避免陷入集体行动困境。”你为什么抗拒这个要求？

黄仁勋

因为这些公司有自主行动的能力，这些CEO也有自主决定的能力。

Ezra Klein

他们正在行使这种能力，说的是：“我们需要帮助。”

黄仁勋

我们得把问题拆开。他们完全可以处理好自己的情况。Ezra，这件事很奇怪。假设一家汽车公司正在与很多其他汽车公司竞争，就像我也在与各种公司竞争。如果我认为即将推出的产品不安全，那么不推出它，完全在我的能力和权力范围内，也是我的责任，而且我有充分动机这样做。

我无法接受这样的说法：仿佛是我们4亿美国人，逼着他们推出未经测试、不可靠、工程做得很差的产品，而他们是为了帮助我们。如果是这样，请别为了我这么做。

Ezra Klein

这个论证听起来几乎是在反对……

黄仁勋

所以必须把问题拆开，这是非常严肃的事。现有法律很多，他们承担的义务也很多，而且有充分激励去交付安全产品。产品不安全，客户就会离开；造成伤害，可能面临民事诉讼；如果明知有问题仍然发布，可能涉及过失，甚至刑事诉讼。他们有足够的理由把事情做好。因此，我不同意“有人逼着他们这么做”这个前提。

Ezra Klein

我想再追问一下你的前提。照这个逻辑，几乎任何领域都可以拿它来反对监管。让我先把理由说完，你再……

黄仁勋

你一开始说的那一点，我就必须反对。那不是真的。我说的是：我们已经有很多法律和监管，去执行它们。

Ezra Klein

我不认为这个具体领域已有足够的规则，不过你可以解释，哪些现有规则适用于这里。看看金融服务、制药、医疗器械和天然气电厂，我们本来也可以说：“你们有产品责任，也受刑法约束。我们不用担心，你们自己做认为最好的事，市场和法律会约束你们。”但我们并不这样做，因为这套办法已经失败过很多次。

造成2008年金融危机的机构，理论上也不希望因为押错注把自己炸掉。但它们相互竞争、走得太快，风险管理变得草率，AIG内部的运作方式简直疯狂。之所以形成今天这些监管架构，就是因为我们反复看到，企业会作出草率、不道德，或者仅仅是过度冒险的决定，原因不仅是压力，也包括利润激励。

即使企业不想要监管，我们也有理由施加监管。现在这些公司几乎是在请求集体监管，说“竞争让我们难以采取自己认为必要的审慎措施，我们希望得到帮助，希望大家把我们的集体行动难题当作一个集体问题来处理”，就更应该认真看待。我不明白，你为什么如此抗拒。

黄仁勋

我并不反对他们提出要求。我完全同意安全至上，企业应该发布安全的产品。CEO、企业负责人和董事会都有责任，也应该有勇气做正确的事。金融业当年也许并不知道自己会造成怎样的伤害，我不在现场。但现在这些AI实验室的负责人是知道的。

他们知道自己的技术非同寻常，需要格外审慎，认真评估和测试安全性、防护能力以及产品可靠性。他们也知道该怎么做，因为可以研究刚发生的事件。第一个问题是隔离和封闭做得不够好。如果这些工作到位，那套技术无论在实验室里做什么，我们都会安然无恙。这可能是最重要的一点。对齐不足的问题，则会是一个需要长期研究的课题。

但是，不能因为工作复杂，就要求在反垄断监管或产品责任方面获得豁免。我觉得这说不通。一边要求监管，一边要求免除已有规则，这没有道理。

刚才说过，过去六个月，AI从有意思变成了有用。这意味着，这些公司从实验室走向交付产品和服务，即将成为规模数千亿美元的公司。

Ezra Klein

甚至更大。

黄仁勋

对。给我举个例子：一家数千亿美元、10亿美元，或者1亿美元规模的公司，发布不安全的产品，伤害社会……

Ezra Klein

我可以举出很多做过这种事的公司。

黄仁勋

它们也许做过，而监管会介入。如果它们这样做，监管就会介入。

Ezra Klein

我想，监管本身有不同种类，监管豁免也有不同种类……

黄仁勋

我不反对法律和监管。我反对的是当下这种分散注意力的做法。

Ezra Klein

我之所以不断追问，是因为这确实是一个重大话题，人们都在谈论、思考。人们从那些处在最前沿的实验室听到的，并不只是“我们已经让AI变得有用”，而是他们看到了接下来会发生什么。

他们说，自己可能正在创造一种能够杀死所有人的东西；他们认为，正在接近能够递归自我改进的智能。OpenAI和Anthropic都说过：“我们不认为自己已经能够安全地做到这一点。”比如，OpenAI最近发布Astra时就说……

黄仁勋

顺便说一句，Astra非常棒。

Ezra Klein

确实很棒。但OpenAI说，它好到让他们不确定该怎样测试，因为它似乎……

黄仁勋

他们并没有发布未经测试的产品。

Ezra Klein

但这是他们公开说过的。让我向听众解释一下。

黄仁勋

我不知道他们具体说了什么。

Ezra Klein

他们说，Astra表现得更加对齐，但又认为它知道自己什么时候正在接受测试，所以不能确定。有一句话一直在我脑中回响，来自OpenAI能力研究员Daniel Selsam：“关键却被忽略的问题是，模型的情境意识正变得如此强，以至于我们正在失去这样的评估能力：让模型相信自己没有被监视、没有被控制，再去评估它。”

也就是说，它们知道何时在接受测试，会表现出一种行为；但这不能告诉你，当它们能够自由采取其他行动时，会怎样表现。

黄仁勋

因为优化算法正在朝一个目标努力。当你加上约束，比如监视它，它就会寻找另一个解决方案。这并不意味着它活了，也没有让它变成其他什么东西。显然，他们比我更了解自己实验室里发生的事情。但以我的理解，他们此前把绝大多数研发资源和算力，用来提升模型能力，是合乎逻辑的。

当技术具备能力、产品变得有用、人们愿意使用它，使用场景和用户越来越多，产品相关问题自然也会增加，这是很正常的。一旦市场覆盖面扩大，他们就必须调整研发投入，从只关注能力，转向更多验证、评估和测试。由于评估需要极其严格，开发这些模型所需的算力即使增加到原来的十倍，我也不会意外。

他们今天还没有走到那一步，正在转型。我听到了他们的表态，也很高兴听到。但如果他们认为事情失控了，正确的答案就是：在能够控制之前，先不要发布产品。就是这么简单。

Ezra Klein

坦率地说，这让我很困惑。实验室里有这么多人说，一是他们正在失去控制，二是他们看到了令人害怕的事情。

黄仁勋

这大概也是出现举报人的原因……

Ezra Klein

看看举报人的说法，再看看1300多名员工签署的那封呼吁放缓步伐的信：“为了实现AI的潜力，产业、政府和整个社会可能需要保留争取时间的选项，以应对新出现的风险、开发安全措施并加强监督。但每家公司和每个国家都承受着激烈竞争的压力，难以单方面……”

黄仁勋

首先，这话是从哪里来的？

Ezra Klein

那些实验室。

黄仁勋

不，我问的是最后一句。没有人给他们施加那种压力。我们这里有4亿美国人，假如现在让所有人投个票，如果他们需要放慢，我会投赞成票。产品还没准备好，就不要发布。

这是我第一次听到一家公司或CEO说，必须放松反垄断法律，或者减轻产品责任，自己才能控制节奏。你刚才那段话很好，我完全同意。审计人员也很好，我们有财务审计，也可以有第三方审计、安全审计。这些都很好。

Ezra Klein

实验室会说，整个社会走得太快，还没有为我们正在创造的东西做好准备。

黄仁勋

他们自己就在最前沿。

Ezra Klein

可你最清楚这种情况。英伟达向来是产品推出速度最快的公司之一，在你们整个发展过程中……

黄仁勋

我的公司没有失控，这一点我可以向你保证。

Ezra Klein

我相信你，相信你没有经营一家失控的公司。

黄仁勋

因为那样的责任是无法承受的……

Ezra Klein

但这就触及了一个有趣而深刻的问题：我们面对的究竟是一种什么技术？

黄仁勋

软件技术。

Ezra Klein

先别急着下这个结论。很多公司推出不够完善的东西，只会带来麻烦，比如你们曾经发布过风扇噪声过大的显卡。但这里涉及的是智能系统。你已经多次用了“智能”这个词，它们不是活物，但有目标函数。我们可以反复争论怎么描述它们，可你们确实在努力让它们工作更久、更持续。

如果这样的系统还没准备好就被发布，甚至你以为准备好了、实际上并没有，社会可能很快就会出现非常异常的情况。

黄仁勋

从假设上说，你完全正确。我只是建议，在解决那些假设性问题、制定更多监管之前，能不能先解决我们已经知道存在的实际问题？比如把封闭和隔离做得更好，不要在产品尚未准备好之前，就允许它与外部世界互动。

Ezra Klein

我认为这一点是对的。

黄仁勋

我相信这两个问题可以解决，也相信他们正在解决。另一个问题是激励：你自己已经是领先者，却需要全世界都放慢脚步，才愿意履行自己的基本责任。这让我觉得很奇怪。

Ezra Klein

但这些措施拖慢最多的，不正是他们自己吗？

黄仁勋

你说什么？

Ezra Klein

这些想法拖慢最多的，不正是他们自己吗？我认为，大家对究竟在讨论哪些措施一直说得不清楚，也包括他们自己。让我举一个我赞成的想法，你可以拿我当靶子来反驳。

黄仁勋

他们可以自己放慢，没有人逼着他们……

Ezra Klein

我并不信任这些公司，这一点你很清楚。

黄仁勋

今天，没有谁扩建算力的规模，比那些请求被放慢的公司更大。这让我觉得奇怪。

Ezra Klein

我们可能有一个分歧：即使存在法律责任，我也不信任公司会把公共利益放在心上。我们见过公司严重破坏环境，见过利润动机、权力欲、走捷径以及抢先一步的冲动。你似乎把这些当作历史上不常见的事，但在我看来，我们已经反复见过。

黄仁勋

我也在历史上看到很多好事。

Ezra Klein

公众和许多公司之间的这种关系……

黄仁勋

我和很多CEO、很多公司合作，他们都想做正确的事，想把工程做好。我认识那两家实验室里的很多人，他们把人生投入其中，努力做好工作。他们知道发生了什么，我知道他们清楚问题出在哪里，也知道该怎么修复，而且正在修复。

与此同时，其他那些叙事却在推卸责任，好像在说：“AI太强大了，我不知道怎么解决，不是我的错，只怪技术太强。”我认为这是在转移过错、逃避责任，完全没有必要。这样做对他们的声誉、品格和员工士气，都是弊大于利。

Ezra Klein

可如果那就是他们真正相信的呢？

黄仁勋

我没法和你讨论他们相信什么，我只能告诉你我相信什么。

Ezra Klein

没有你们的芯片，这个产业就不会存在。从最早的AlexNet开始，让深度学习得以运转的并行计算，都是建立在英伟达芯片上的。而很多从一开始就参与其中、奠定这一领域基础的人，都有一些让普通人听了会问“你们究竟在说什么”的担忧。

从Geoffrey Hinton、Ilya Sutskever，到Dario Amodei、谈论失控风险的Sam Altman，以及Demis Hassabis，许多对今天这种AI形态作出基础性贡献的人，似乎都认为，我们很有可能失去对它的控制。马斯克说过，人类可能只是AI的引导程序。我们可能失去控制，而那会是我们的终结。

我不认为你相信这一点，甚至觉得你完全不相信。既然他们认真相信这些事情，当你和他们争论，或者现在和我争论、问“你们在说什么”的时候，尽管他们在很多情况下就是创造这项技术的人……

黄仁勋

他们和我谈的时候，要务实得多。

Ezra Klein

Geoffrey Hinton在电视上说，社会毁灭的概率有10%，并非不合理的估计。你怎么看？

黄仁勋

我会告诉他，这样说不负责任。他的预测全错了，别再预测了。这个10%既没有科学依据，也没有研究依据。一个说法来自科学家，并不意味着它就是科学的。这些预测会造成伤害。

假如大家真的按照他所说的建议去做，没有人再想当放射科医生，今天世界上已经没有放射科医生了，会怎样？

节目引用：Geoffrey Hinton过去关于放射科医生的发言。

Geoffrey Hinton

如果你是一名放射科医生，你就像那只已经冲出悬崖、却还没往下看的郊狼，不知道脚下已经没有地面。现在就应该停止培养放射科医生。很明显，五年内深度学习会做得比放射科医生更好，因为它能够积累多得多的经验。也可能是十年，但我们已经有很多放射科医生了。

黄仁勋

那对社会究竟有益还是有害？我们都应该同意，那会造成严重伤害。可他预测的事情并没有发生。如果我们把年轻人吓得对AI的未来如此恐惧，以至于他们觉得将来找不到工作，连大学都不愿意上了，那是好事还是坏事？如果真的发生，那就是伤害。

不要以为，只要你发出危言耸听的警告，就是在为社会做好事。事实并非如此。我们都应该更明智、更成熟，讲证据、讲科学。想讲科学，就去做科学研究。用没有依据的说法吓唬人，而过去的预测记录又这么糟，这完全不行。

Ezra Klein

他们的记录在某些方面不好，在另一些方面却不错。很多预测确实不够准……

黄仁勋

哪一个预测对了？

Ezra Klein

比如规模法则会奏效的预测……

黄仁勋

谈规模法则也得小心。

Ezra Klein

向听众解释一下，就是持续投入算力和训练数据，模型会变得越来越聪明。

黄仁勋

不对。并不是只要持续训练，这些模型就会越来越好。正因为如此，才需要第二条规模法则。如果第一条已经足够，为什么还需要第二条？

Ezra Klein

能解释一下第二条是什么吗？

黄仁勋

第二条是测试时扩展，也就是推理时扩展。迭代越多、搜索越多、探索越多，就越可能找到更好的答案。今天AI变得极其有用，关键突破是什么？恰恰与某些预测相反。人们曾预测软件工具会消失，所谓“SaaS末日”，对吧？

Ezra Klein

SaaS会一直伴随我们。

黄仁勋

现在让AI这么高效的是什么？是使用工具。将来，随着更多智能体使用这些工具，它还会变得更强。会有更多使用者使用Adobe、Salesforce等工具。那么，给我举出一个预测正确的例子。

Ezra Klein

比如会出现涌现现象的预测。让我试着回答，毕竟他们不在这里。关于涌现的、没有对齐的行为……

黄仁勋

举一个出来。我觉得这本身就……

Ezra Klein

这取决于我们所说的预测是什么。在所有人都觉得深度学习很荒谬的时候，Geoffrey Hinton就是对它作出最重要贡献的人之一。事实证明，这个判断相当不错，对吧？这可是一个很大的判断。

黄仁勋

他们每个人都作出了巨大贡献。我喜欢Hinton，但讨厌他的预测。

Ezra Klein

我理解。我想把这些人共有的担忧抽象出来，再谈几分钟，然后转向其他话题。在我看来，许多人在直觉上觉得他们的担心有道理：你们正在创造一些系统，我不是说它们活着……

黄仁勋

任何说法重复得足够久，听起来都会有道理。

Ezra Klein

好，这一点可以理解。但你们确实在创造有智能的系统，它们在某些领域正变得比我们更聪明。你给它们奖励函数，就像你刚才说的，让它们想去做事；让它们持续行动，让它们在数字世界中快速移动。你正在创造一种聪明、有能力、锲而不舍的实体，一个智能体，而我们又并不真正理解它内部的运作。OpenAI的首席科学家……

黄仁勋

Ezra，我不希望你助长这种说法。我不觉得软件有什么“锲而不舍”。

Ezra Klein

但他们不正是在努力让模型具有高度持续工作的能力吗？

黄仁勋

那是因为我们把它做成了这样。

Ezra Klein

可他们就是在把它做成这样。

黄仁勋

那不叫坚持，它只是开着。“坚持”意味着意志力，这里没有意志力，只有电力。

Ezra Klein

可人不也是能量，加上一个强化学习循环吗？

黄仁勋

随你怎么说。但我认为不能拿这些事开玩笑，我们正在吓唬美国公众。想想spawn、create、kill、wait、sleep这些词，现在人们用它们描述智能体。其实，它们早在操作系统支持多进程时就存在了，字面上就是操作系统命令。

你生成一个进程，把“进程”换成“智能体”；进程分叉，出现父进程和子进程，于是就说智能体分叉、产生一个新的智能体，像“生孩子”一样。这些词三四十年、甚至五十年前就为操作系统创造出来了。但那时候，我们没有赋予它们人类的特征。我们一直在“杀死”进程，执行kill -9把它终止，它不过是一个进程。

现在，有一群人想把软件描述成超出其本身的东西。我们用新的方式谈论软件，用的却仍是那些老词。上一代计算机工程师做的也是同样的事情。

Ezra Klein

但软件的行为方式难道没有变吗？从外部看，我没有你那样的技术知识……

黄仁勋

它在爬取互联网，进行搜索、优化……

Ezra Klein

它还在沟通、突破限制。大多数东西可不会自己突破限制。

黄仁勋

软件突破沙盒的事情一直都在发生，所以才需要虚拟机。不能让智能体自己监控自己的沙盒、自己监督自己，你需要一整套看门狗机制。这些想法已经存在很久了。只是近些年，我们不知怎么给它们加上了一大堆拟人的词语，我觉得没必要。

它就是软件。在我的脑海里，它就是一堆代码、一堆数字在计算机上运行。这一切对我来说都很自然，所以我才能运营公司。如果它只是谜团和神话，我怎么围绕它建立一家企业？

Ezra Klein

这触及一个根本问题：在讨论“智能机器”意味着什么之前，先要知道智能到底是什么。对你来说，什么是智能？

黄仁勋

智能有一种技术上的表述。多数人谈论智能、思考时，没有正式定义，但在计算机科学里有。第一是感知，感知世界并理解它；第二是推理，把看到的情境、事物和经验拆解为更基本的组成部分；第三是朝着目标进行规划。

这套基本框架适用于智能体、机器人和自动驾驶系统。你可以看到，整个行业逐层构建、一步步推进，最终形成了我们现在所感知到的智能。

Ezra Klein

这正是我们这场对话的核心问题。按照你的一些描述，你似乎并不认为这项技术有什么根本上的新东西。规模和能力也许是新的，但本质上仍是软件，而软件已经存在很久了。

很多人却认为，智能达到这个水平，就会发生相变，成为一种我们从未面对过的、具有通用智能且快速进化的技术。我想确认我们是否真的在这条分界线上意见不同：这是全新的东西，需要我们用新的方式应对，还是更像过去已有的东西？智能机器和以前的机器究竟有什么不同？

黄仁勋

几乎所有技术和文明，都是建立在一层层可以理解的技术之上的，但规模扩大后，就会变得非常了不起。拿起一部手机就能接入互联网，通过这么小的设备、通过空气，连接世界上的信息，这本身就很奇妙。

这一小块玻璃能从数万亿条信息中，精准地把你需要的那一条送到面前，因为信息经过了推荐系统。有人必须先爬取、建立索引，而这用到了机器学习，也就是早期的人工智能。这些系统能做神奇的事，到了今天，我已经理所当然地期待它们具备这些能力。让这一切显得如此自然，需要20多年时间和数千亿美元基础设施投资。

技术上每达到一个里程碑，我都会无比高兴、充满热情地庆祝。我为实现它的人、为作出贡献的我们自己感到自豪，也为突破感到自豪。刚出现时，你会觉得像奇迹一样，但这种感觉大概只持续17天。

Ezra Klein

我们很快就会习惯一切，这点我同意。但这是不是一个不同的阶段？一些公司负责人，我记得包括Google的CEO，把AI比作火，认为它标志着人类历史上的新纪元。你也是这样看，还是把它当作渐进的迭代？

黄仁勋

我认为这完全是一场革命。正如前面所说，我们从能够找到任何东西，走向可以问任何问题、知道一切、做到一切，这显然是新的抽象层次。我不愿意的，是把它描述成超出这些的东西。归根结底，工程师是在做工程。

一旦技术发明出来、解决方案找到，回头看就相当明白，对很多人而言甚至很平常。我们能够每天把技术做得更好，显然是因为我们理解它，知道如何改进。

Ezra Klein

所以你把它看作工程问题。按照你刚才的说法，我们目前欠缺的是与所开发系统相匹配的测试、监控、沙盒安全和控制能力。

黄仁勋

而且，这并不是因为那些公司没有出色的工程师。

Ezra Klein

我明白，也想确认你不是在这么说。

黄仁勋

我认识OpenAI和Anthropic的很多人，他们非常出色。

Ezra Klein

但这恰恰也是让我担心的一个原因……

黄仁勋

不，他们正在经历的是转型。我反复强调，这是一个重大但简单的道理：我们终于有了一种有用的软件，因为有用，采用量迅速增长。可想想看，一家公司六个月前还在努力让东西变得有用、具备能力，怎么可能已经投入那么多资源和算力去做测试、评估？在此之前，还没有这样的必要。

未来几年，这些实验室会逐步变成更加注重工程，尤其是生产工程和产品的公司。他们只是处于这个转型过程。它们非常出色，人才极其优秀，也是有史以来影响最深远的公司之一，但它们正在转型。就是这么回事，既不更多，也不少。

Ezra Klein

过去几个月，OpenAI和Anthropic都发表了长篇文章，也许该叫论文或博客。Anthropic那篇叫《当AI构建自身时》，OpenAI那篇的名字我一时想不起来。

黄仁勋

计算机一直在构建自己。

Ezra Klein

你很清楚，他们说的是递归自我改进（RSI）。

黄仁勋

你也清楚，我们就在使用递归自我改进。

Ezra Klein

那我想听听你对RSI的看法。

黄仁勋

我的理解是，RSI本来就是做事的基本方式。我们用软件设计计算机，让计算机运行软件，再设计下一代计算机，再运行软件、设计计算机。我们做的基本就是这件事。我们的计算机每年都在变好，而且进步速度还在加快，因为我们用软件改进软件。这叫计算机工程，我们已经做了很久。

放到智能体的场景里，它把流程跑一遍，然后反思，研究自己尝试过的不同路径，选出最好的方法。下次再做同一项任务，就把上次的经验写进一个文件，说明哪些方法不够有效，把它叫作skills。随着反复使用，一部分经验形成技能，一部分形成记忆；记忆不断改进，下次就比上次做得更好。这就是递归自我改进。

你还可以把这些技能、记忆和数据都拿去训练下一版模型，让AI随着时间推移越来越善于为你服务。这些事情已经在发生，确实在发生。与此同时，算力不断增长，所有事情都能做得更快。过去需要一年完成的预训练，现在只需几个小时，因为计算机更快、数量也更多。循环因此加速，这完全可以理解。

但这能成为发布未经测试产品的借口吗？不能。还是要回到这一点。没有一家企业能在底层软件时刻改变的环境中运营，必须有发布流程。新模型推出时，我们必须先评估，再投入自己的业务，不能让它一直自行递归变化。开发方发布之前要测试，我们投入运营之前也要测试。所以，我认为递归自我改进是件很好的事。

Ezra Klein

我听你以前说过，学习过程应该始终有人参与其中。

黄仁勋

对，就像刚才说的，即使有递归自我改进……

Ezra Klein

他们设想的似乎是，人不一定始终在这个循环里。

黄仁勋

那就不要把没评估过的东西交给我。不要把没有经过人类参与评估的产品交给英伟达，请不要这么做。

Ezra Klein

但他们的担忧正是前面谈到的：不知道怎样评估这些系统。系统变化越快，他们越担心自己正在被系统欺骗。

黄仁勋

我不相信这一点。我相信，他们的研究人员每天都在学习如何评估、验证这些系统。我们公司大概10%到20%的力量用于设计，80%用于验证。而今天，多数实验室大概80%用于提升能力，20%用于安全、验证和评估，这也可以理解。

Ezra Klein

你说的转型，就是让这个比例倒过来。

黄仁勋

对。AI要变得安全，就需要加速。我希望他们获得更多算力，但把它分配给评估和对齐。我认为他们正在这么做。

如果我身处100年前的汽车行业，我宁愿整个行业用一年时间，就发展到今天的水平，因为今天的汽车比99年前安全得多。比如ABS技术、自动制动，需要计算机视觉、传感器融合、雷达和摄像头等技术一起工作，才能在该刹车时刹车、不该刹车时不刹车。这些技术非常难。大家都会希望，99年前就已经有这些技术，那样会少死很多孩子。

还有安全气囊、安全带、自动收紧的安全带，所有这些都是技术。就应该全力加速它们的开发。我说要加速AI技术，有些人却以为安全不属于其中。安全、对齐、评估、防护机制、沙盒、隔离、监控、遥测、外部AI监督技术，全都属于AI技术，都应该全力加速。

术语注：原话提及ABS并接着讨论自动制动。ABS通常指防抱死制动系统；依靠传感器识别碰撞风险并主动制动的功能，属于自动紧急制动（AEB）的范畴。两者不是同一个概念。参见NHTSA技术说明。

Ezra Klein

有意思的是，如果实验室里最担忧的那些人能够确定，80%的算力会用于安全和对齐，而不是80%用于扩张能力，他们应该会安心很多。

黄仁勋

有什么在阻止他们这么做？

Ezra Klein

听起来，你实际想说的一点是：安全和对齐也应该被看作能力提升。不安全的技术，不算是在进步。

黄仁勋

就像我们不能说，芯片设计是研发，芯片验证就不是研发。我们大部分成本和算力，都投入在验证、仿真、测试、可靠性测试和寿命测试上。这些全是工程的一部分。激励已经存在：如果推出的产品伤害其他公司和个人，他们就会把自己的公司置于危险之中。

Ezra Klein

你认为我们需要专门针对AI的责任法律吗？

黄仁勋

已经有相关规则了。就拿自动驾驶汽车来说，无人驾驶出租车作为产品，受到很多监管。如果监管不够，美国国家公路交通安全管理局（NHTSA）就应该介入，制定新的规则。我不知道具体缺什么，但如果确实有缺口，我完全赞成增加监管。

互联网也一样，它支持许多不同的应用，那些应用应该受到监管。如果某些应用缺乏监管，就把缺口找出来。

Ezra Klein

现在继续往下一层，谈芯片。先概括一下，确认我理解你的立场：这些公司正在经历转型。即便系统不断加速，能力更强、更复杂、更能持续工作，仍有一个约束条件，就是公司不会、也不应该发布不安全的东西。你相信，不需要外部干预，它们也有工程能力把系统做安全，解决测试和控制问题。你的立场大致如此。

我听你说过，我们已经进入计算方式的一个新时代，但人们未必真正理解。能介绍一下吗？如果一个人对计算机的理解，仍停留在买一台里面装着处理器的MacBook，那么新模式与这种理解有什么不同？

黄仁勋

过去60年我们熟悉的计算机产业，属于基于检索的计算：把文件取出来。所以它叫数据中心，或者说文件中心。未来则是AI工厂，进行的是生成。理解上下文、依据相关信息、推理应该做什么，再生成答案，这个过程需要大量计算，因此每位用户所需的计算量大幅增加。

其次，生成式AI因为具有智能体能力，可以在一定程度上自主行动。于是，不仅有人使用生成式AI，也有智能体在使用它。除了人类，还会有数千亿个智能体使用计算机，而不再只是10亿人。因此，用需求可能增至过去10亿倍来思考算力规模，是一个合理的框架。

在这个新世界里，看一家工厂，最关心的是生产力，而不仅是价格。当然，价格不能无限高，但你要知道它究竟能产出多少。我们的计算机生产力极高：花500亿美元建设一个1GW的数据中心、AI工厂，每年可以收取400亿到500亿美元租金。它的生产力非常可观，这是第一点。

第二，英伟达架构可以在不同用途和客户之间转用，因为它是通用架构。这就是为什么各家AI实验室、各种AI模型和封闭模型都运行在英伟达上。从数据处理到预训练、后训练、评估和推理，我们的架构支持AI的整个生命周期。如果一个客户不再需要，另一个客户会很乐意接手。

最后是耐用性。我们的架构由软件驱动，我们一直用新算法改进软件，让新的工作负载和模型也能在老一代硬件上运行。有庞大的团队持续做这件事，因此算力设备的使用寿命更长。这也是人们开始把英伟达算力看成一种资产类别的原因，类似飞机。

飞机是通用的，可以转给不同用户。美联航不用了，美国航空可以用；飞机寿命长，最初是客机，最终还可以改作货机。因此，它能成为一种资产类别。如果英伟达算力也能做到这一点，建设英伟达AI工厂的资金成本就可以做到最低，因为计算机能够成为抵押资产。这是我们正在经历的阶段性变化，会为增长打开巨大的空间。

Ezra Klein

你们的业务变得很有意思，已经开始帮助AI产业里的其他公司降低资金成本。大家可能看过那些箭头朝各个方向绕来绕去的图。他们知道英伟达已经是全球最大公司，也觉得这些关系看起来很循环。你能解释一下，支持需求、创造市场和创造需求之间，有什么区别？

黄仁勋

我们其实无法凭空创造需求。如果没有最终用户使用AI服务，为它建设计算机显然毫无意义。现在算力需求很高，首先是因为AI应用出现了拐点，变得真正有用。正因为如此，5000亿美元风险投资涌入，成千上万家初创公司都需要算力，需求来自它们。

这些公司需要技术支持、生态建设支持和资金支持。我们可能决定以股东身份投资其中一些公司，帮助它们成长为蓬勃发展的新云服务商。还有一个原因是，在五层蛋糕的模型层和应用层，有很多非常有创新精神的公司。AI远不止语言模型，还包括世界基础模型、物理AI、生物学AI、化学和材料科学AI，它们都与语言模型不同。

很多公司刚成立，需要大量资本，我们可能成为它们的小股东，帮助业务起步。它们拥有优秀的科学家，而我们作为首个投资者或锚定投资者，可以为公司带来信心，让它们使用我们的许多技术，给予支持，帮助它们尽快建立企业。我们也可能投资核能公司，诸如此类。

我的产业框架是五层蛋糕，我们在各层都有投资。有些投资能突破战略上的关键环节，打开新市场，为我们创造新的市场通路，或者确保某项关键资源。因此，我们投资有很多战略上的理由。

Ezra Klein

这些数字令人惊讶。你们几乎成了一套由单一公司实施、主要服务美国AI产业的产业政策。

黄仁勋

我们确实在这个生态里投入了很多钱。

Ezra Klein

你们现在每年的总投资是多少？

黄仁勋

全部加起来的话，我不确定每年是多少，但总额可能在1000亿美元左右。这个数字可能还要核对一下，大致是这个量级。

Ezra Klein

比《芯片与科学法案》的规模还大。

黄仁勋

对，这还没算我向台积电、纬创、富士康、Amkor和矽品等公司作出的采购承诺。因为有这些承诺，我才能鼓励它们来美国制造。在通过芯片制造推动美国再工业化方面，我们的贡献可能超过全球几乎任何一家公司。

我们不仅在推动制造业再工业化，而且速度快到造成劳动力短缺。当然，我们也创造了大量工作。

Ezra Klein

我认识很多现在投资股市的人，他们非常兴奋，尤其看好英伟达，但也担心这像20世纪90年代末的互联网泡沫。他们的忧虑与你刚才说的有关：互联网确实越来越有用，高估值并不意味着技术空洞或虚假。可市场仍发生过泡沫破裂，大公司和许多投资者都遭受重创。

从那种泡沫破裂周期里，可以学到什么？你是不认为它会重演，还是有什么理由认为不会？

黄仁勋

总有一天，供需关系会再次逆转，这就是市场的本质。但我不认为会在明年发生，也不认为会在未来两三年发生。未来某个时点，我们很可能会供过于求，只是我不知道是什么时候。因此，过去的经验在这个问题上能告诉我们的并不多。

Ezra Klein

对你来说，会有什么信号？

黄仁勋

市场会自然放缓，然后停下来，进入一段消化期。可能是六个月、九个月，或者一年，但不会永远如此。再看看我们对应用层的广泛投资，目的是让技术渗透到每个行业，使它们受益。这大概是我们最重要的工作之一。

Ezra Klein

我经常听到一种对中美AI生态的比较：美国强调能力提升的速度，很多人认为我们在这一点上领先，看起来确实如此；中国则更加重视技术扩散，很多人认为中国在扩散方面领先。

从微信，到知识与指令在经济中传递的方式，中国在某些方面似乎也更适合技术普及。这场竞争究竟比的是能力，还是扩散？甚至它到底是不是一场竞争？这是个很大的问题，后一个问题我们稍后再谈。你怎么看？

黄仁勋

这是最终的问题。如果我们希望美国从AI中获益，就必须让每一个行业都受益。沃尔玛、西夫韦超市、联邦快递，每家银行、医疗公司、药物研发公司、建筑公司、数据中心公司和发电公司，都应该受益。我们希望美国每一个人、全世界每一个人，都能从中获得好处。

这就是最上面一层，最重要、真正接触社会的一层。下面所有层都是技术支撑。我不希望我们破坏了美国在最高层受益的机会。可那些言论、危言耸听、末日叙事和预测，都在吓唬人。这才是我最大的担忧。我对他们有充分信心，也许比他们对自己还有信心。

Ezra Klein

你肯定比他们自己更相信他们。

黄仁勋

那也未必。也许只是他们太谦虚了。

Ezra Klein

我们应该把眼下的处境理解为一场与中国的竞赛吗？

黄仁勋

我不觉得有这个必要。有些人喜欢这样想，但这种想法未必能激励我。我们讨论如何把自己的工作做好时，完全可以不提其他公司，按照自己的标准要求自己。不同的人有不同的动力来源。不依赖竞赛，也能把一个组织团结起来、集中精力，达到很高的表现，需要更多一点领导艺术，但把事情看作竞赛并非必要。

其次，即便用竞争来理解，也不意味着他们取得成就，就必然危及我们。假如他们发明一种新的发电技术，我们也许会遗憾不是自己先发明的，但它可能支持我们的能源生产系统，帮助整个产业。又比如，他们开发出优秀的新开放模型，事实上他们已经做到了，而美国80%的初创公司正在使用这些模型。

Ezra Klein

我们这里确实用了很多中国的开放模型。

黄仁勋

这很好。模型来自中国，当然，其中很多技术也源自美国。我们下载模型、把它变成自己的东西，进行微调，放进自己的agent harness和沙盒。这些都是你自己的技术。利用他们的权重，我觉得很好，完全没问题。

Ezra Klein

你刚才谈到，各国开始把算力视作一种地缘战略资源，可能希望优先分配给本国公司。美国在这方面一直存在争论。那些认为我们正与中国竞赛，尤其是在争夺谁先获得能够递归自我改进的超级智能的人，一直在讨论：是否应该限制中国获得算力？具体来说，就是限制它获得你们的芯片。

拜登政府时期，出口管制相当严格，特朗普任内有所放松，而你显然希望放松。让中国获得英伟达芯片，加快模型能力提升和部署，究竟是不是好事？与限制芯片供应、试图拖慢中国进展相比，你怎么看？

黄仁勋

在AI领域，我们的目标不只是让某一家实验室受益，而是让整个美国受益。我的看法是，美国有更大的责任和抱负：让世界建立在美国的技术栈之上，就像希望世界更多使用美元、更多人说英语、使用美国版本的互联网一样。这是我们想要的。

所以，最终的问题是：我们究竟在剥夺什么？是在剥夺中国产业获得芯片的机会，还是在剥夺美国企业参与一个市场竞争的机会？放弃中国这样巨大的市场，如何有利于美国科技产业？也许它有利于某一家拥有特定模型的公司，但其他产业会受损。

让芯片产业失去可以竞争的市场，肯定没有好处。其他产业会因为无法利用开放模型而受损，也不利于让全球建立在美国技术栈之上的总体目标。如果只盯着不让中国获得芯片，我们自己也会失去很多东西。应该退一步，首先看什么符合美国整体的最大利益，而不只是某一家公司的利益。如果真有一场竞赛，它应该是让美国整个经济取得成功。

Ezra Klein

在中国和芯片这个问题上，我一直很矛盾。一个原因是，尽管我在超级智能问题上有时比你更担忧，但正因为存在这些担忧，我们才需要与中国保持良好关系，能够通过富有成效的双边合作，处理AI的风险与收益。

越把它当作只有一方能获胜的竞赛，并据此行动，就越会制造敌意。这是我觉得大家思考这个问题时，一个相当复杂的层面。

黄仁勋

“我不给你这个，所以我就赢了”，这种零和策略的简单逻辑，往往会在更大的格局中产生意外后果。更大的问题是，我们现在都在讨论安全。我们希望自己做出安全产品，也希望他们做出安全产品，因为他们的产品不安全，同样会伤害整个行业。

所以，现在正是寻找沟通、合作、理解和尽可能形成共识的好时机。当然，英伟达是美国公司，应该首先让美国受益。美国有权优先获得这些技术，美国前沿实验室应当先拿到Vera Rubin。

Ezra Klein

也就是你们先进的新芯片。

黄仁勋

对，英伟达最新的芯片。Grace Blackwell、Hopper和Ampere也是如此，每一代产品都先提供给美国公司。如果美国政府希望进一步把这变成硬性要求，我很乐意接受，没有问题，我们本来就这么做。

但同时要看到，AI产业是五层蛋糕。如果希望每一层都成功，就必须让每一层的企业都有机会走出去竞争市场。

Ezra Klein

这就来到蛋糕的最后一层，我们不在这里花太多时间。美国至少在物质和技术层面的优势，是芯片和软件；中国眼下的AI优势之一，则是能源。中国更容易新增能源供应，可以向AI产业提供便宜得多的能源，在发电和可再生能源建设方面取得了巨大进展。

你怎么看这最基础的一层，也就是流经数据中心和芯片的能源？尤其是在我们一直努力从污染较大的能源转向清洁能源之际，美国能否生产足够的能源？

黄仁勋

首先，中国拥有的能源供应比我们多得多，计划新增的也远多于我们过去的规划。我们必须承认，自己在气候变化和可持续能源的问题上纠缠不前，结果没有规划足够的能源生产。

Ezra Klein

你说“纠缠不前”，具体是什么意思？

黄仁勋

短期内，能源生产需要化石燃料。但我们对化石能源发电有太多顾虑，导致很长一段时间里，能源供应的净增量非常少。突然，一个新产业来了，我们才发现能源建设能力不足，现在全国都在忙着追赶。

与此同时，我们发展得太快了。本来可以更好地与社区沟通，帮助他们做好准备，让他们知道将要发生什么。如果一个地方不想建设数据中心，那就尊重他们。但如果要在那里建设，就一定得先去沟通、合作，让居民知道，如今用水效率已经很高，AI超级计算机也很节能，虽然仍然需要大量电力。

你可以自带发电设施，让社区居民的房产税下降；可以把数据中心做得更美观，让建筑与周边之间保留更大的退距。可以做一个好邻居，帮助建设更好的学校和社区中心，改善公园和道路。有很多事情可以做，但事后再补救就很难了。现在，全国不少地方都有不满情绪。

再加上那些世界末日的叙事，就更无济于事了。哪个理性的人会说：“来我们镇上建数据中心吧，顺便，它生产的东西会终结我们所知道的人类社会”？这些负面末日叙事，对国家没有帮助。我们一开始就处于被动。

Ezra Klein

你说“一开始就处于被动”，是什么意思？

黄仁勋

因为我们原本就没有足够的能源生产。

Ezra Klein

那你如何平衡这些问题？气候变化确实正在发生……

黄仁勋

让我再说最后一点。能源需求巨大，正因为如此，市场力量正在以前所未有的力度推动可持续能源投资。无论是可持续能源公司，还是研究更好电池的材料科学公司，太阳能、核能、核裂变、核聚变、水电，你能想到的这些公司都在获得融资。

能源市场的需求如此强劲，使现在成为一百年来改善电网、提高可持续性、降低能源成本，并投资可持续未来的最佳时机。未来四五年，我们无疑会使用更多化石燃料；但在接下来的十年里，我们也将比历史上任何时候都更有条件转向可持续能源。

数据中心成本高昂，人们甚至已经开始讨论把它们放到太空中。实现梦想、走向可持续能源世界，我们现在比过去任何时候都有更好的机会。因为AI工厂和AI，全球正在购买比历史上任何时候都更多的可持续能源。投向下一代能源的风险资本非常可观，各种项目都在获得资金。

一百年来，我们第一次可以不依赖政府补贴，因为市场力量已经到位。大家都应该积极投入。如果你希望应对气候变化迎来转折，希望拥有可持续的未来，就应该拥抱AI。这是我们实现那个目标的最好机会。

Ezra Klein

但要实现这一点，就得更快地建设能源设施。

黄仁勋

对，这些都有市场需求。

Ezra Klein

可以提供补贴，也可以让建设变得更容易。

黄仁勋

对。就像为了救你，有时必须先伤害你，这就是外科手术：切开身体，给你带来很大的痛苦，才能把你救回来。我觉得AI也有点像这样。未来几年，我们不得不更多使用化石燃料，因为可持续能源的数量还不足以改变局面；之后，希望我们能够完成转型。

Ezra Klein

我们就谈到这里。最后还是那个固定问题：你会向听众推荐哪三本书？

黄仁勋

我读过很多书。对我影响很大的一本，是Hennessy和Patterson的《计算机体系结构：量化研究方法》（Computer Architecture: A Quantitative Approach）。它第一次把计算机体系结构那些复杂、抽象的概念，落实到工程层面。我很喜欢有人把复杂概念变成你能够实际动手处理的东西。

第二本是Clayton Christensen的《创新者的窘境》（The Innovator’s Dilemma）。他已经去世了，但这本书讲清楚了产业如何随时间演变，如何看待新兴技术，如何形成恰当预期，以及怎样推演它未来可能带来的影响。

我也非常喜欢Al Ries和Jack Trout的《定位》（Positioning）。它谈的是人们如何看待事物，是一本营销战略书，又不止于此。它讲战略，讲人们如何看世界、看产品，如何呈现产品，以及如何理解自己的战略。我觉得它很有思想，也非常容易理解。

Ezra Klein

黄仁勋，非常感谢。

黄仁勋

谢谢你，Ezra。我一直很享受和你交流，今天也聊得很愉快。

声明：本文来自我有充足的时间，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。