Dylan Patel：到2028年，Anthropic和OpenAI将控制全球大部分计算资源
Dylan Patel – Anthropic & OpenAI will have most of the world’s compute by 2028
与我的双胞胎兄弟Dylan Patel再次聊天非常愉快。我们探讨了未来几年实验室的经济学——随着RSI（递归自我改进）临近，从推理到训练的转变；以及Anthropic和OpenAI如何有望在未来几年内控制世界上大部分可用的FLOPs（因为他们能更好地将计算货币化，从而出价更高）。
然后我们讨论了，到本十年末我们看到的超过10万亿美元的AI总资本支出是否会导致主权债务危机——超大规模企业的债务推高利率，使非AI国家破产，并导致非AI股票崩盘。
我们未能解决的一个问题是：是否有任何力量能够对抗这个行业所有朝着集中化发展的趋势——训练中的规模经济、计算的稀缺性，以及最终持续学习和RSI。
在YouTube上观看；在Apple Podcasts或Spotify上收听。
Grok Bot在帮我寻找新编辑方面相当有用。我创建了一个招聘机器人，描述了我寻找的编辑类型。然后那个机器人派生出几个子代理，它们梳理了我的邮件和X直接消息，阅读了我喜欢的各种纪录片的片尾字幕，并找出了一些我最喜欢的YouTube博主的编辑是谁。它收集了所有这些结果，然后向我提供了一份符合我条件的候选人短名单。在x.ai/bot自行尝试Grok Bot。
Antithesis让你为软件测试工具包添加时间旅行功能。由于Antithesis平台是完全确定性的，其内部发生的一切都是完美可重现的。所以如果你的软件崩溃了，你可以倒回到精确的时刻，冻结时间，并进行调查。或者你可以通过扰动系统来测试不同假设：杀死一个节点或禁用某个功能，看看会发生什么，然后重置轨迹并尝试其他操作。在antithesis.com/dwarkesh了解更多。
Jane Street目前正在招聘两个独立的机器学习实习岗位，一个主要侧重研究，一个侧重工程。两种实习的实习生都需要参与实际工作，而不是人为设计的练习：一个常见的项目是将前沿的LLM论文适配到金融市场，这通常伴随着大量棘手的挑战。重要的是，申请不需要任何金融背景。2027年的申请现已开放，请访问janestreet.com/dwarkesh。
(00:00:00) – 两家实验室很快将控制世界上大部分计算资源
(00:07:01) – 60亿美元的晶圆厂资本支出可产生超过1万亿美元的最终收入
(00:13:08) – 如果实验室出价高于所有人，计算价格将上涨
(00:18:22) – 哪个层级将捕获大部分剩余价值？
(00:25:40) – 什么可能减缓进展？
(00:29:43) – 实验室正将计算从推理转向研发
(00:33:27) – 中国获得不到10%的新增计算资源，但其实验室需要的更少
(00:48:48) – AI会导致主权债务危机吗？
(01:07:52) – 世界未来的劳动力会属于少数几家公司吗？
Dwarkesh Patel：好的，我回来了，和SemiAnalysis的创始人Dylan Patel一起。我们的家庭感恩节晚餐版本就是每年一次的常规播客。但我们实际上没有血缘关系。
Dylan Patel：别告诉人们这个。
Dwarkesh Patel：这会破坏神话的。基本上，世界经济的走向越来越取决于实验室经济的走向，取决于计算市场的走向等。我想了解，在几年内，这个疯狂的未来会走向何方。但让我们从今天的情况开始。带我了解一下当前实验室的计算和收入，并大概预测一两年后。
Dylan Patel：回顾去年，即使是年底，美国GDP增长的大部分只是AI基础设施。展望今年，大约三分之一的新增计算资源流向了实验室——OpenAI和Anthropic。这些计算可能由他人建造然后租给他们，但最终客户是他们。
展望未来，计算的数字正在膨胀。今年我们稍高于一万亿美元的资本支出。到2028年，将超过2万亿美元。实验室也在占据越来越大的份额。所以最终，你会看到一个非常有趣的情况：实验室从每年花费数百亿美元的公司，到每年花费数千亿美元，再到预测到本十年末甚至每年花费数万亿美元。这至少是他们开始与合作伙伴签署的一些合同。
这需要对其经济模式进行重大重塑。到目前为止，他们一直是大多亏损的公司。Anthropic在第二季度开始盈利。据信在第三季度的某个时候，随着Codex和5.6等的更大崛起，OpenAI甚至可能开始盈利。但如果我们回到一年前，他们所有的钱都是风投资助的亏损。如果我们回到今年年初，仍然是风投资助的亏损。他们现在已经转过弯，开始真正盈利。
这并不意味着他们不再吸收新资本。新资本仍在涌入，以进一步加速增长。但最终，他们越来越多的业务是靠自己的收入资助的，而不是资本注入。在过去一年半里，他们的利润率真的飙升了。计算的基础成本大约在每兆瓦1000万到1500万美元之间。
现在最有趣的一点是：以前，如果他们提供模型——比如在Nvidia Hopper GPU上提供GPT-4——对OpenAI来说会产生负的毛利润。但现在，当OpenAI提供GPT-5.6或Anthropic提供Opus 5或Fable 5时，他们的收入增长已经远远超过了每兆瓦1000-1500万美元的增量成本。以Anthropic为例，收入已经高达每兆瓦5000万美元。这使他们能够做到：“嘿，如果我花10美元用于推理容量，我实际能产生50美元的收入，然后我可以把所有利润增量再投入到训练中。”
Dwarkesh Patel：我非常想理解的是，你如何看待计算资源在实验室的集中化，或者流向世界与流向实验室的计算的相对比例。如果你说现在三分之一的新增计算流向了实验室，那么到什么时候，世界上超过一半的新增计算会流向实验室？到什么时候，实验室基本上拥有世界上绝大部分计算资源？
Dylan Patel：今年年初，OpenAI从2吉瓦开始，Anthropic不到2吉瓦。今年年底，它们都超过5吉瓦。所以它们整体计算量增长了3-4倍。当你观察新增计算时，这约占今年新增计算量的30%。
展望明年，考虑到已经签署和敲定的合同，情况会更加戏剧化。Anthropic和OpenAI明年将占据多达40%到50%的计算资源。这种集中化看起来不会放缓或停止。事实上，它看起来只会加速。
为他们建造这些计算资源的人将会改变。明年，一个大新进入者是SpaceX，它正在建造大量计算资源。他们很可能将其中相当一部分租赁给Anthropic和OpenAI，因为他们是有能力支付最高价格的边际客户。此外，OpenAI和Anthropic也开始自己建造计算资源——OpenAI有自己的芯片，Anthropic有从Google购买并通过Fluidstack部署的TPU。
所以你问，“嘿，什么时候世界上新增计算的一半会只流向OpenAI和Anthropic？”实际上，到明年年底，一半的新增计算已经流向Anthropic和OpenAI了。
Dwarkesh Patel：因为计算增长如此之快，新增计算基本上将成为大部分计算。所以很快——你是说可能在一两年内——世界上的大部分计算将被两家实验室拥有，或者至少服务于两家实验室的需求。
有一个趋势是，世界计算量（以吉瓦计）每年翻倍，但前沿实验室的计算量每年增长三倍。如果当前趋势继续，今年年初的2吉瓦到年底接近6吉瓦，乘以3，到2027年底是18，到2028年底是54。你会不会认为，“到那时，鉴于世界计算总量，他们根本无法继续三倍增长”？你如何看待未来几年世界计算的情况？
Dylan Patel：如果今年新增计算30吉瓦，明年50吉瓦，后年大约70吉瓦，你会得到一个非常有趣的现象。今年部署的新瓦特比两年前部署的瓦特效率高得多。今年部署了巨大的世界计算百分比。虽然没有使部署的瓦特数量翻倍，但我部署的是GB300、TPUv7和Trainium3，它们的效率高得多——每瓦性能是上一代芯片的3-5倍。
所以最终你有一个巨大的阶梯。如果Anthropic和OpenAI明年占据45%的计算，那么到2027年12月，他们将占据世界新增计算的一半。但这一半的新增计算实际上比之前的一切性能都要高。所以还有另一个乘数。到2028年底——如果这个趋势继续，我看不到任何阻止它的因素——他们自己就控制了世界上大部分可用的FLOPs。
Dwarkesh Patel：令我困惑的是，如果我们进入一个计算价值大幅增加的世界，为什么你认为2028年我们只增加80吉瓦？
Dylan Patel：那是上限，顺便说一句。那是“我他妈的非常乐观”。
Dwarkesh Patel：好的，让我们做一些思路追踪。几个月前我采访你时，你说要制造一吉瓦的Vera Rubins（？），需要55,000片N3晶圆、6,000片N5晶圆和170,000片DRAM晶圆。我知道这些数字可能变了。
Dylan Patel：我要逗你，但你说“晶圆”的方式太他妈的印度了。“晶圆”。
Dwarkesh Patel：顺便说一句，当我们刚搬到美国时，我的v/w发音问题很严重，而且我是素食主义者。
Dylan Patel：我记得你告诉过我。
Dwarkesh Patel：在北达科他州，我上小学，我会说——
Dylan Patel：我能要一个“恶作剧”吗？
Dwarkesh Patel：我能要一些“恶作剧”吗？
无论如何，那是对一吉瓦而言。我让一个LLM运行你的晶圆厂设备模型，计算出每年生产一吉瓦计算的工具成本。它说是30-40亿美元。现在假设你加上洁净室、外壳和晶圆厂的所有其他东西。所以60亿美元的晶圆厂资本支出每年生产一吉瓦。一吉瓦目前产生1000亿美元的收入。
但同样，那60亿美元的资本支出每年生产一吉瓦，而那一吉瓦每年产生1000亿美元。所以在五年内，第一吉瓦产生了五年的利润，晶圆厂生产的第二吉瓦产生了四年的利润，以此类推。晶圆厂层面的60亿美元资本支出将产生超过一万亿美元的最终AI收入。
Dylan Patel：是的，沿途有很多运营支出。还有很多其他资本支出，比如数据中心、电力。
Dwarkesh Patel：而且你还得付钱给OpenAI进行研发。
Dylan Patel：安装。有很多不同的人需要钱。
Dwarkesh Patel：去掉一半给所有这些中间人。那仍然意味着晶圆厂资本支出与最终产生的收入之间存在100倍的差距。实际上甚至更多，但我们只是非常保守。结果……这就是资本主义。你有这么大的差距，可以把1美元变成100美元。他们不会想办法造更多的镜子吗？
Dylan Patel：他们会。只是这些镜子需要时间制造。
Dwarkesh Patel：但紧急程度如此之大，以至于Anthropic和OpenAI会说，“我们现在可以赚一万亿美元，但我们只是被ASML机器中的镜子瓶颈住了。”如果我们花1000亿美元在这上面，我们怎么能造更多的镜子？我们很快就会面临这种情况。我们无法解决这个供应限制？这似乎很难想象。
Dylan Patel：你看到人们在这里做有趣的套利——他们买涡轮机然后试图转卖，因为涡轮机的价值更高，因为它是你数据中心的瓶颈。我认为如果有人有4亿美元，并且有能力说服ASML卖给他们一个EUV工具，他们完全应该去买一个，等着，然后以超过10亿美元的价格卖掉。
但最终，是的，资本主义会导致这些事物扩张。但这是一个鞭子。鞭子信号需要很长时间才能传到供应链的末端。供应链不会立即反应。事实上，你去和Carl Zeiss的人谈谈，他们会说，“是啊，是啊，我们需要在本十年末制造100个EUV工具。”今年早些时候我们做那期节目时，他们甚至不认为需要制造那么多——足够每年制造100个EUV工具的镜子。现在他们说，“好的，我们需要这样做。”但实际上，由于正在发生的一切经济因素，应该更多。它需要很长时间才能拉动。
Dwarkesh Patel：假设供应链中的每一家公司都被私有化。有人进来，超级AGI狂热，说“我们要最大化生产”。你认为制造更多东西的物理限制是什么？我问这个的原因是，我们很快将进入一个世界，实验室收入，或者仅仅是AI现金流——因为加速器也有巨大的现金流——将如此之大，以至于你可以仅凭现金流资助所有这些生产的极端扩张。
Dylan Patel：我大体同意。显然有一些物理限制。目前供应链扩张的方式，100仍然大致是合适的数字。
Dwarkesh Patel：对于2030年？
Dylan Patel：100个ASML工具用于2030年。但如果你说，“Carl Zeiss，这是100亿美元。请他妈的扩张生产”，那就会改变。你必须对供应链中的每一家公司都这样做。
Dwarkesh Patel：但你不认为这会在明年发生？
Dylan Patel：我不认为今年会发生。我不认为明年会发生。我不认为后年会发生，因为世界资本受限。
Dwarkesh Patel：但在一个世界里，比如顶级实验室，即使合并，明年产生一万亿美元的收入，他们难道不能拿出其中100亿美元——
Dylan Patel：我不认为他们会那样做，但是……
Dwarkesh Patel：或者至少数千亿美元？似乎他们意识到世界走向何方。我觉得他们可以就……
Dylan Patel：问题是，实验室明年将产生数千亿美元的收入。但最终，明年的资本支出大约是2万亿美元。所以有很大的不匹配。晶圆制造设备供应链将做大约2000亿美元。数据中心市场供应链会做更多。加速器供应链会做更多。能源供应链会做更多。你把所有这些加起来，将远远超过2万亿美元的资本支出。所以实验室还没有达到其现金流可以资助这些东西的地步。
Dwarkesh Patel：显然他们永远不会达到那个点，因为你想保持资本支出高于回报。
Dylan Patel：是的，你 reinvest。
Dwarkesh Patel：我真正想理解的关键问题是：如果当前趋势继续，到2028年底，每个实验室将超过50吉瓦。所以他们之间将有100吉瓦。正如你所说，到2028年，这些吉瓦驱动的吞吐量或性能将比现在高出许多倍，因为硬件变得更好。不仅每瓦FLOPs增加了，而且硬件在处理AI工作负载方面也变得更好了。
好的，那么到2028年底，实验室有100吉瓦。世界计算量是多少？
Dylan Patel：我认为这可能有点困难，因为到2028年，他们将占据70-80%的新增计算。我不确定市场会怎样。对于他们来说，要实际购买70-80%的计算，计算价格会飙升多少？Google或Meta或Amazon愿意出售那么多吗？
另外，当我们谈论这些吉瓦数字时，有一个注意事项。当Amazon提供Bedrock Anthropic模型时，在我们看来，那算作Anthropic的计算，因为最终，它算作Anthropic的收入，尽管有收入分成和信用返还。但最终，在2028年，如果他们合并达到100吉瓦，他们对市场已经做了非常破坏性的事情。
因为今天任何人都可以从每兆瓦1000-1500万美元的计算中赚钱。我不骗你，这并不难。去拿一个GB300机架，去下载Kimi权重，去下载vLLM或SGLang，设置好。Codex和Fable实际上可以帮助你做到这一点。相当简单。不是微不足道，但也不是火箭科学。然后把它放到OpenRouter上。非常简单。你会开始产生比你支付的计算费用更多的收入。
这已经导致计算定价——每兆瓦1000-1500万美元——开始上涨。要到达2028年的100吉瓦，你必须相信实验室能够支付更高的价格，因为任何人以1000-1500万美元都能赚钱。计算现在会达到每兆瓦2500万美元吗？会达到每兆瓦4000万美元吗？
Dwarkesh Patel：正如你所说，实验室已经比其他人每兆瓦产生多得多的收入。如果他们保持像现在这样领先，你会期望这种情况继续下去。如果存在某种递归自我改进，AI实验室相对提升——或者他们内部有未对外发布的模型，帮助他们更好地制作下一个模型——你会期望情况更加如此。
你难道没有看到这一点吗？SpaceX，或者任何稍微落后的人，如果无法像实验室那样内部货币化，就会把计算卖给最高出价者？你会期望他们继续竞标越来越大的计算市场份额。
Dylan Patel：我认为那是我的世界观。他们将继续吞噬更多的计算。但最终，他们不能在当前价格或接近当前价格的情况下做到这一点。他们确实必须开始支付每兆瓦2500万、3000万、5000万美元，才能真正在2028年吞噬世界70%的计算，达到2028年的100吉瓦，这是一个非常激进的目标。
另一个真正具有挑战性的方面是，我们已经看到AI实验室出现了巨大的放缓。他们倡导的监管实际上更多地减缓了实验室，而不是减缓了开源中文语言模型。OpenAI不发布Astra。OpenAI停止训练两周。Anthropic不发布其安全评估所说的模型2，被广泛认为是Mythos的下一个版本。
他们显然没有发布他们最好的模型，在这种情况下，他们的每兆瓦收入停滞甚至可能再次下降，因为其他模型再次具有竞争力。并不是他们落后了。只是他们没有发布最好的东西。
如果存在某种监管影响阻止他们发布最好的模型呢？现在他们的每兆瓦收入不会那么快增长。他们以高于其他人的价格购买增量计算的能力开始减弱，然后也许他们无法达到100吉瓦。
但在一个安全不重要的世界里，我相信这正是会发生的事情。他们可以开始产生每兆瓦1亿美元或更多，并且他们可以支付每兆瓦5000万美元。任何其他人除了说“请，Dario，把我的一切都拿走”之外，没有逻辑理由对其计算做任何事情。但有一些因素在起作用，我们无法描述，可能会减缓这一点。
Dwarkesh Patel：我认为一个好的直觉泵是：如果AI模型真的像完全自动化的软件工程师一样好呢？他们目前还没有达到那个水平。我认为他们离完全自动化一个白领工人的工作还很远。但白领工人每年赚六位数或更多。如果你有一吉瓦可以维持大约一百万个白领工人的数量，那么……那就是1000亿美元。实际上出奇地低。
Dylan Patel：是的，每人10万美元，一百万人。
Dwarkesh Patel：我不知道。但如果你获得完全AGI，那么每吉瓦将是数千亿美元。
Dylan Patel：另一个方面——我们一直看到这一点——是大部分价值捕获并没有发生。这些模型产生的大部分价值并没有给到OpenAI和Anthropic。谢天谢地，到目前为止，大部分只是给了用户。
Jane Street，他们与OpenAI有GPT-5.6 Ultrafast模式的独家合同，或者Jane Street是Anthropic最大的客户之一，他们从支付的token中产生的价值远远超过Anthropic产生的利润，因为他们可以从市场上赚钱。
或者拿Meta来说，一度传闻占Anthropic业务的10%。他们通过优化广告算法或什么，获得5%更长的参与时间，所有这些事情，他们从使用这些模型中赚的钱比Anthropic多得多。
这就是需要的。当然，如果你有一百万个新软件工程师，软件工程师的成本也会下降。
Dwarkesh Patel：我困惑的一件事是，市场会达到均衡吗？如果达到均衡，你会期望计算价格等于Anthropic和OpenAI从中产生的价值，或者非常接近，只有少量加价给Anthropic和OpenAI吗？
现在非常奇怪的是，计算售价与Anthropic能从中赚到的钱之间存在4倍或更多的差异。在一个每吉瓦收入持续增加的世界里，如果Anthropic货币化一吉瓦的能力翻倍或三倍，那么差距继续扩大就很奇怪了。Anthropic，仅仅通过拥有一些权重，就可以把花10美元的东西变成100美元。
Dylan Patel：这总是一个有趣的问题。价值在AI中流向哪里？AI产生了所有这些价值。你有最终用户，我认为我们都同意他们比任何人产生的价值都多，因此他们为这些模型支付了很多。然后你有应用层。到目前为止，应用层产生的价值很少。然后你有模型层，直到一年前还是负毛利润，现在产生了巨大的正毛利润。看起来它正朝着每兆瓦产生1亿美元的道路前进。所以把10-15美元变成100美元，正如你所说。
但如果我们回到一年前，硬件供应链产生了所有这些毛利润，而其他所有人都在这上面赔钱。OpenAI和Anthropic只是把VC的钱投进去，许多其他初创公司也是如此。许多超大规模企业正在建设基础设施，却不知道是否会有回报。
所以最终，你在模型层产生了负价值，因为他们在以低于基础设施成本的价格出售token。所有的价值都被芯片、晶圆厂捕获了。最初在2023年，内存厂商从HBM或AI内存中赚不到钱，尽管理论上他们交付的价值巨大。
现在你有……实际上，台积电捕获的价值远少于内存厂商。所以价值捕获已经发生了很大的变化，这对于跟踪市场或参与市场的人来说非常有趣，比如Jane Street。这不是广告。这不是广告。这不是广告。
Dwarkesh Patel：他们是赞助商，但你不必那么用力地推销他们。
Dylan Patel：那么未来会发生什么？Anthropic和OpenAI已经开始缓慢膨胀价值捕获。他们会膨胀并拿走所有价值捕获吗？嗯，这是一个想法，然后Elon展示了，“实际上，不。我可以把我的计算以每兆瓦2500万美元或4000万美元卖给Anthropic和Google。即使这是一个短期的事情，我也以这个价格卖掉了它，我将在一年内收回全部资本支出。”
Dwarkesh Patel：你预测相关部分的计算——比如SpaceX以每吉瓦400亿美元卖给Google的B300或什么——明年年底会卖多少钱？
Dylan Patel：我认为大多数计算仍将继续以每吉瓦低于200亿美元的价格交易。
Dwarkesh Patel：即使在明年年底？
Dylan Patel：因为所有这些都必须融资。如果Meta、Microsoft、Amazon、SpaceX可以在没有找到客户的情况下建造计算，只是说，“去他妈的，我要建造这个计算”，然后转身等到它建好，他们现在就控制了正在发生的事情。
大多数计算在建造之前就已经签订了合同。这就是Elon在市场上利用的机会。他实际上有所有这些计算。他就像，“嘿，Anthropic，我知道你每吉瓦赚600多亿美元。为什么不以疯狂的价格买我的东西？”显然，不是Elon决定这个或Anthropic决定这个。市场自己解决了。
其他人，你去一个随机云，他们就像，“好的，我要建造一吉瓦的计算或100兆瓦的计算。我要花掉资本支出。我需要转身找到一个客户。如果我想找到一个客户，我需要找到资本。谁给我资本和客户？客户必须签署协议。然后我拿着客户的承诺去信贷市场，我筹集资金。”
所以有一个完全不同的权力结构，Meta实际上在囤积计算。他们和SpaceX是唯一可能的第三名，因为他们囤积了所有这些计算。他们利用自己的资产负债表和能力来建造计算，而没有最终客户以巨大程度货币化。他们有一个实际的资产负债表，所以他们可以去信贷市场。你建造一吉瓦，你可以赚取你的利润，不是疯狂的利润，但不错的利润。现在我有所有这些计算。
现在Meta和SpaceX有这个选择，环顾四周，“我的内部用例会让我赚更多钱，还是我应该以疯狂利润把它卖给Anthropic或OpenAI？”所以现在我们进入了一个体制，SpaceX和Meta说，“实际上，我要建造计算，我可以以不是13美元的价格出租。我可以以25美元、50美元甚至更高的价格出售。”
Dwarkesh Patel：你认为到2027年底，他们每吉瓦的收入是多少？对于Anthropic或OpenAI，到2027年底。
Dylan Patel：我认为这高度依赖于谁拥有最好的模型，如果他们被允许继续发布最好的模型。但我看不出为什么不会超过每兆瓦5000万美元。
Dwarkesh Patel：到2027年底。
Dylan Patel：哦，到2027年底？那更具挑战性，但我认为可能会更高，每兆瓦7000万、8000万美元，公司整体加权平均，如果不是更高的话。
Dwarkesh Patel：似乎低了。
Dylan Patel：如果是这样，那么计算价格会发生什么？好吧，如果我是Anthropic，增量计算是值得的。也许我花每兆瓦4000万美元在SpaceX的计算上。如果我是SpaceX，我看向供应链，我想，“好吧，我已经和Jensen达成了这笔交易（他现在突然用Twitter了）。”Elon说他们只对Nvidia独家，但为什么Jensen不提高他的价格？然后SK Hynix、Micron和Samsung看着它，他们会想，“我们为什么不提高价格？”
所以对于价值捕获，我认为这里有一个鞭子效应。仅仅因为有人提高了价格，并不意味着整个供应链会立即重新平衡。但随着时间的推移，供应链会重新平衡，东西会越来越贵。要获得增量容量，你基本上必须这样做。所以台积电提高价格非常缓慢，但内存公司提高价格非常快。基板公司提高价格非常快。如果价格是15美元，Elon就不会卖，但他因为25美元以上而卖。所以显然他非常快地提高了价格。
Dwarkesh Patel：我很惊讶你认为每吉瓦收入到明年年底不会增加得更多，甚至超过每吉瓦100美元。
Dylan Patel：RSI什么时候发生？起飞什么时候发生？
Dwarkesh Patel：或者即使RSI没有发生，只是说当前进展速度继续。看看我们在过去一年半里取得了多少进步。一年半前的模型是什么？Claude 3.5或类似的东西？
Dylan Patel：我对此的问题是，世界上存在的最好的模型是在2月份训练的。
Dwarkesh Patel：所以你是说我们可能只是不被允许发布实验室最好的模型。
Dylan Patel：OpenAI说他们两周不训练模型，老兄。到底怎么回事？
Dwarkesh Patel：有一件事是，内部他们是否从中获得足够的使用，以至于他们会推高计算价格？另一件事是，AI进展整体是否会因为监管而放缓？
Dylan Patel：是的，但他们甚至不被允许在内部使用这个新模型。Astra甚至没有在内部广泛部署。
Dwarkesh Patel：但尽管如此，如果你有一个模型……去年年初发布的模型是什么？GPT……
Dylan Patel：4o？那是4o吗？
Dwarkesh Patel：是的。你说的是到2027年底，再次发生GPT-4o到Mythos 2大小的飞跃。
Dylan Patel：是的，但Mythos 2没有发布。
Dwarkesh Patel：或者甚至Mythos。再次飞跃。
Dylan Patel：甚至Mythos也不被允许发布。他们阉割了它。我们不能用它来优化推理性能。我们不能用它来优化各种事情。
Dwarkesh Patel：是的，也许AI进展或AI部署有一些放缓，这意味着每吉瓦收入可以更低。但这是我能看到的唯一方式，到明年年底每兆瓦只有1亿美元。
Dylan Patel：只要模型变得更好，从中产生的价值就会变得更好。显然，谁捕获价值仍有争议，但最终每个人都会提高他们的价格。因为他们可以，而且这是超级通胀的。
特别是如果监管的方法是……目前，到目前为止，只是“不要发布模型”。但越来越多地，监管的方法是纽约禁止数据中心。德克萨斯州暂停审批。俄亥俄州说，或者至少试图说，你必须支付一定半径内所有人的财产税。这类事情将减少供应并增加成本。这也会被转嫁出去。
你开始陷入一个进展确实放缓的境地，至少在外部意义上，即使模型内部变得越来越好。在起飞场景中，为什么Anthropic不把最好的模型比外部可用提前六个月？因为安全和监管，但也因为竞争优势？那六个月的差异，如果进展加速，实际上是一个更大的差异。
所以这就是会限制每兆瓦收入增长远低于我们今年上半年所见增长的因素。
Dwarkesh Patel：我对此非常感兴趣。随着这些公司上市并对投资者负责，假设到明年年底他们拥有接近20吉瓦。所以10%的计算是2吉瓦。
假设他们想把计算从60%用于训练变成70%用于训练。而他们的投资者会说，“好吧，如果你能每吉瓦产生1000亿美元，你基本上是为了增加训练计算而拒绝了2000亿美元的收入。”所以投资者会说，“什么鬼？你已经在训练上花了这么多钱。为什么还要花更多？”
作为一家上市公司，如果他们只是说，“不，我们会继续增加我们用于训练的计算份额，以抵消每吉瓦计算给我们的收入增加”，你认为会发生什么？
Dylan Patel：这就是我个人相信的。实验室将随着时间的推移，分配越来越少的计算给推理。我认为这非常非共识。大多数人的标准信念是，“哦，大多数计算将用于推理。”大多数将用于训练的前向传递，而不是产生收入的推理。
最终，如果他们今天每兆瓦产生3000-4000万美元，你把40%分配给推理。如果你现在达到每兆瓦6000-7000万美元，你还会分配40%给推理，产生所有这些利润，然后做股息和股票回购吗？或者你会去建造AGI？我认为从Anthropic和OpenAI来看，不仅是在执行层面，还有他们的董事会，明显的答案是去建造AGI，因为它更有利可图。所以最终你会看到他们提高专用于训练的计算百分比——
Dwarkesh Patel：而每一次计算的增量如果用于推理，会越来越产生利润。
Dylan Patel：对。关键是，如果我出售token……OpenAI是在发布Ultrafast模式仅用于外部，还是也在内部使用？事实证明，不。实际上，我要把它分配给内部和外部，因为我从超快AI或最好AI模型中产生的内部价值比外部某个人要多得多。
所以最终，当然，我可以每兆瓦产生1亿美元，但如果我把那转向AI研究，我得到什么增量进展？那对我未来的盈利潜力，我做的任何事情的折现现金流，有什么影响？他们不会经历那个计算，但最终，在内部专用越来越多的计算更有意义。推理计算如此之大的唯一原因是为了让你能增长你的训练集群。
Dwarkesh Patel：我认为这是一个有趣的经济学问题，我觉得我们可以让模型来处理。一个世界必须是什么样子，他们才会减少用于推理的计算份额？
Dylan Patel：我认为过去三个月他们已经这样做了。我认为在今年的一些时候，他们正在增加计算份额……让我们逐月来看。你会同意，每个月Anthropic增加的计算都比前一个月多。可能当他们签署SpaceX协议时会有一些噪音，但总的来说，计算量是一条向上的曲线。
所以在1月份，他们增加的计算比12月份少，然而他们的收入却飙升了。然后他们似乎已经趋于平稳。他们现在不是每个月增加250亿美元的ARR。这意味着他们获得的边际兆瓦更高于用于研发而不是推理。所以他们在事实上增加用于研发的计算。我认为如果你足够仔细地看他们在做什么，这是不言而喻的。
Dwarkesh Patel：如果我看你所说的世界计算增长的速度，这里有一些我想理解的东西。似乎如果我把你刚才说的数字加起来，到2028年底，世界计算将超过200吉瓦，对吗？
Dylan Patel：是的，全球。
Dwarkesh Patel：好的。2028年之后，全球AI计算能继续增长多快？
Dylan Patel：今年30，明年50，2028年70。2029年应该在90-100左右。
Dwarkesh Patel：然后每年再增加100左右？
Dylan Patel：我认为斜率可以继续向上。很难预测四年以后的事情。谁知道我们是否处于RSI体制，或者世界经济增长速度是每年10%？因为如果你每年增加100+吉瓦，你就处于荒谬的GDP增长中。
Dwarkesh Patel：如果你认为2028年全球有200吉瓦，那么到那时中国有多少？在整个趋势中，中国的计算如何继续增加？因为如果RSI在西方启动，而中国还没有大量计算，那么我们生活在一个不同于没有发生时的世界。
Dylan Patel：如果我们重新设定到2022年，美国增加了大约45-50%的世界计算。中国增加了大约30-35%。其余被世界其他地方占据。自2022年以来，我们有了针对中国的大规模监管和美国的戏剧性增长。所以今天，美国部署了70%的瓦特。中国真的非常少。在中国部署的数据中心AI计算瓦特低于10%。
展望未来，他们仍然非常少。他们的国内生产相当小。他们从Nvidia的购买仍然相当小，而且其中很多最终去了其他地方，比如马来西亚或其他地方。
所以最终，中国国内仍然持续低于10%的新增计算。我认为到2028年可能会开始向上弯曲。但很容易说中国将有30吉瓦或更少的AI计算。
Dwarkesh Patel：到2028年？
Dylan Patel：是的，2028年。
Dwarkesh Patel：好的。那么他们的曲棍球棒上升有多快？
Dylan Patel：我确实认为在2028年，他们能够部署的计算会有很大的提升。在2026年，他们仍然主要依赖许多走私芯片，许多台积电为那些他们认为不是华为但最终是华为的公司制造的芯片，或者许多三星正在发货的HBM。
但在2027年，晶圆厂开始投产。特别是在2028年，来自SMIC和CXMT等的晶圆厂开始投产，国内生产实际上达到每年数百万单位。现在他们仅在2028年就增加了5-10吉瓦的国内生产芯片。这些芯片肯定比Nvidia在2028年将拥有的芯片，或Google在2028年将拥有的芯片，或OpenAI在2028年将拥有的芯片差。
Dwarkesh Patel：所以即使吉瓦数字也夸大了，你是说。那是30吉瓦，但实际上是更差的芯片。但如果你认为世界下一年将增加100吉瓦——我知道你说你不能看那么远——中国在下一年能增加多少？基本上，我想知道：他们是否在能够开始大量发货计算的那一刻就曲棍球棒，还是仍然会少于美国加盟友？
Dylan Patel：有很多取决于美国是否通过MATCH法案，工具是否继续受到出口管制，中国能多快建造他们开始能够在国内生产的新设备。但最终，中国肯定会曲棍球棒。如果说中国有什么真正擅长的，那就是非常快速地扩大制造规模。
我想象中国将开始能够将越来越多的外国芯片采购到国内，或者至少缩小美国允许Nvidia卖给他们或什么的差距。
Dwarkesh Patel：但你认为中国在2029年能增加50吉瓦增量吗？
Dylan Patel：我认为这完全合理。其中一部分也可能从国外购买。但是的，我认为中国在2029年做到50吉瓦是完全合理的。但如果其中大多数是国内芯片，那么有一个因素，那50吉瓦实际上只相当于美国芯片的20吉瓦。
Dwarkesh Patel：对。所以你实际上预测了一个世界，如果按质量加权吉瓦，2028年领先的实验室可能比中国在2029年甚至2030年拥有的计算还要多。
Dylan Patel：这意味着没有采取任何措施来减缓美国实验室。
Dwarkesh Patel：没错。
Dylan Patel：但显然政府和政客们开始这样做了。而中国不会减缓AI。事实上，他们唯一要做的事情就是加速它。
Dwarkesh Patel：老实说，当我采访Jensen并问到出口管制时——我是一个自由主义者——我并不真正确定我对这个问题的看法。我是在为他相反的观点做钢铁侠，因为我认为讨论想法很重要。我就像，“是的，也许有一个世界，如果我们只是与中国合作，对我们更好，特别是因为他们控制了供应链的那么多以及机器人技术所需的其他东西。”
但我没有意识到计算情况像你说的那样糟糕。实际上，出口管制似乎确实……如果他们发货你所说的数量，那是一个巨大的差异。到我们拥有自动化编码器并开始进入自动化研究员时，中国的计算存量远远落后。如果最终是这种情况，那将是有效的。我认为这实际上是一个显著的成功。
Dylan Patel：唯一的警告是，其中一些是出口管制，但一些也只是金融系统。美国金融系统更愿意对初创公司孤注一掷，而中国金融系统则不是。但一旦中国金融系统选择了一个行业专注，他们会补贴得多得多。
所以中国半导体行业的补贴显著超过世界其他半导体行业的总和。如果起飞不像你暗示的那样快，而是需要更长时间，那么最终中国将在半导体方面大幅追赶，这在某个时候就是计算。
另一个值得注意的方面是，中国公司今天在AI模型方面并不落后太多，至少在公众感知中，相对于他们拥有的计算量。领先的中国实验室总共最多有100-200兆瓦的计算，字节跳动Seed是例外，他们拥有更多。但Kimi没有运行一吉瓦或任何接近的数量。而Anthropic到年底超过5吉瓦。
所以问题是，这重要吗？我认为现在这种计算差异并不那么重要。当我们分解实验室的计算比率或预算时，到目前为止是60%训练，40%推理。但那个训练进一步分解。实际上，50%的计算是研究，10%的计算是开发，然后40%是推理。
我所说的研究和开发是：研究人员产生想法，测试新架构，测试新数据混合，测试新超参数，新注意力技术等等。但最终当他们进行训练运行时，当Anthropic训练Mythos时，它低于200兆瓦。
Dwarkesh Patel：预训练还是整个事情？
Dylan Patel：预训练。它低于200兆瓦，持续大约两个月。然后RL甚至更少。
Dwarkesh Patel：你认为RL的计算比预训练少？
Dylan Patel：至少就预训练的单一站点而言，是的。
Dwarkesh Patel：但总计算可能更高，对吗？
Dylan Patel：但它是顺序的。在任何一个时间点，他们最多使用的大概是200兆瓦。实际上他们有多个吉瓦，所以大部分计算用于研究，而不是模型的开发。
这有原因。协调所有这些集群很困难。将它们全部共置很困难。进行多站点训练很困难。进行RL很困难。在RL期间生成更多rollout并不一定会使其更好。有各种各样的原因导致你可能无法利用你拥有的两吉瓦全部用于训练。实际上，我只能利用200兆瓦。
随着我们进一步进入自动化编码和自动化研究员，我实际上期望用于研究相对于训练的计算预算百分比变得更加模糊，甚至更高用于训练。还有持续学习之类的事情。所有这些都意味着越来越多的计算实际上用于训练模型。
Dwarkesh Patel：如果你最终进入一个每年100吉瓦的世界，以当前价格，那将是每年5万亿美元的资本支出。
Dylan Patel：然后再加上你必须在之前很久就建造发电厂。它也是一个30年的资产。再加上数据中心是15-20年的资产，你也必须在那时建造它。所以5万亿美元，一旦你考虑到未来几年的增长，实际上将更像是7或10万亿美元的资本支出。
Dwarkesh Patel：等等，我没明白。这不包括发电和数据中心本身没有基础设施的事实。
Dylan Patel：对，完全正确。当人们谈论AI资本支出时，他们说400亿、500亿美元。但那真的只是关键的IT：服务器、网络、光纤、收发器、光通信等等。它不包括数据中心本身或提前建造的发电厂本身。
如果我今年建造100吉瓦，明年建造150吉瓦，那么那150吉瓦的所有建筑都需要在今年以资本支出建造。如果后年我建造200吉瓦，所有这些发电厂都需要花费……你必须在今年购买涡轮机。所以实际上，如果你建造100吉瓦，它甚至比5万亿美元大得多。
Dwarkesh Patel：对。非常合理地，到2030年底，每年的增量资本支出接近10万亿美元，这将接近世界经济的十分之一。如果全部在美国上升……美国经济也会增长。但尽管如此，以美国经济当前规模，它将占美国经济的三分之一到四分之一，仅仅用于数据中心。
当我大声说出来时，我就像，“也许你是对的，我们根本不会允许它，这就是这不会发生的原因。”因为要让这个指数继续，四分之一的美国经济只是建造数据中心。
Dylan Patel：我相信资本主义和资源重新分配到最有利可图的事情。但同时，政治存在，信贷市场存在，资本市场存在。
所以，为了支持，比如说，到2030年100吉瓦……或者甚至缩减到2028年，所有项目加起来是3或4万亿美元的资本支出：超过2.5万亿美元用于IT资本支出，然后另外1到2万亿美元用于数据中心和能源，以及所有下游供应链，比如半导体等等。如果你在3或4万亿美元的资本支出，所有这些现金从哪里来？还没有人从业务中产生那么多现金。
超大规模企业资助了到目前为止的所有增长。Google、Microsoft、Amazon、Meta。他们资助了巨大百分比。他们曾经是超过一半的计算，但他们现在不产生现金。实际上，他们把一切花在资本支出上。此外，他们举债并把一切花在资本支出上。你看到Meta这样做，甚至Amazon，甚至Google。Microsoft很快就会在那里。每个人都在举债支付资本支出。
现在谁是之前没有做这件事的增量人来支付这个？在Google的情况下，他们停止回购很简单，或者Meta停止回购，然后转身购买计算机基础设施。这对市场没有巨大影响，但确实有一些影响。但当你走到2028年——超大规模企业现在正在借入数千亿美元，然后他们所有的供应链也借入数千亿美元——谁来支付这个？
所以有几种不同的方式。有半导体公司，如Nvidia、Broadcom和内存公司，他们转身决定资助一些资本支出。有传统的基础设施投资者，他们聚集资本并投资于基础设施。不是桥梁，而是数据中心。
最后，经济中的每个人都在意识到，“也许我不应该买房，或者也许我不应该投资于帮助人们买房的信贷，或者也许我不应该购买政府债务。我应该只购买超大规模企业的债务，或者我应该购买这个数据中心的债务，或者我应该购买Anthropic的债务。因为Anthropic愿意为增量十亿美元来建造他们的容量支付20%的利率。因为他们知道从中产生的收入将是巨大的，而且他们愿意支付20%，因为这仍然比以每吉瓦500亿美元从SpaceX租用要好。”
所以你有了所有这些争夺。但如果你现在这样做，整个世界经济真的被重新调整了。
Dwarkesh Patel：你和我过去几天一直在私下辩论，是否会出现由于AI引起的主权债务危机。逻辑是这样的。正如我们提到的，你有一个情况，很少的投资变成很多钱。所以回报率——
Dylan Patel：多么他妈的问题，老兄。哦，我的上帝。难以置信。
Dwarkesh Patel：不，对于其他不能把很少钱变成很多钱的人来说，这是一个巨大的问题。所以回报率非常高。即使在数据中心层面，如果你建造一个数据中心，并试图以折旧基础建造它的10倍价格租给Anthropic或OpenAI，那太他妈的疯狂了。你在年底把1美元变成2美元或10美元或什么。这推高了利率。
现在，如果利率上升，而且如果它对整个经济都这样做……人们借越来越多的钱。他们在与政府本可以做的借贷竞争，或者与其他公司本可以做的借贷竞争，或者与你作为消费者或抵押贷款购买者本可以做的借贷竞争。这使得其他所有人借贷更昂贵。这对很多人有巨大影响。抱歉，我要在这里独白一会儿，但我们一直在思考这个。
我认为美国最终会没事。因为如果数据中心建在美国，你基本上可以对数据中心征税。但根据当前的税收体系，公司收入不到联邦收入的10%。80%以上是工资税和所得税，随着越来越多的自动化发生，这会萎缩。
同时在支出方面，目前20%的税收收入用于偿还债务，支付债务的利息。现在，很多债务是短期的，所以每五年展期一次。你为什么笑？
Dylan Patel：因为这是你上个月学到的。
Dwarkesh Patel：好像你不一样。你他妈的得了金融经济学学位。
Dylan Patel：我没有。互联网认为我是养蜂人。几个月，几个月。
Dwarkesh Patel：这是我们的生意，Dylan。
Dylan Patel：我知道，我知道。抱歉，抱歉。
Dwarkesh Patel：现在我自我意识了。操。
Dylan Patel：不，很好。你做得很好。我只是觉得好笑。一百万人听这个家伙，他这月刚学会债务。
Dwarkesh Patel：假设利率上升1%。在五年基础上，用于偿还债务的税收收入比例从20%上升到25%。如果上升5个百分点，那将超过40%。但如果你考虑到政府每年借2万亿美元，那么那从40%上升到超过60%。所以60%的税收收入仅仅用于支付债务的利息。
现在，我认为美国会没事，因为如果我们让数据中心在美国建造，税基会增加。其他国家绝对完蛋了，在我看来。我只是在看哪些国家有很多债务，税收收入很少，而且很多债务经常偿还。那些国家，比如巴基斯坦或尼日利亚，我认为在这个新的利率体制下会很惨。
Dylan Patel：这种挤出效应是为什么它不是YOLO 10亿吉瓦的原因。你有所有这些行业和国家使用大量债务，所有你之前提到的贫穷国家，它们只会违约。你有消费品公司，所有那些你在Trader Joe's或其他地方看到的东西的公司。它们使用大量债务。所有电信公司使用大量债务。银行使用大量债务。
所以如果市场上的利率上升——不一定是政府设定的利率，而是政府说的联邦利率与其他人收取的利率之间的利差，因为Amazon明年想借1000亿美元或不管什么数字，可能更少——你最终会面临一个非常棘手的问题，现金从哪里来？
有一些水平是由现金流资助的，现金流持续上升。但逻辑上的事情是投资远远超过你的现金流，因为未来几年的回报会很惊人。所以你有这个缺口。
那么压低缺口的是所有这些其他事情：针对数据中心的监管，消费者生气，政客生气，针对AI的监管，AI实验室由于安全原因不发布最新模型。利率上升对所有这些事情都有影响。所以所有这些事情都弯曲了资本主义在纯粹简单经济中想要的曲线，转向我们拥有的复杂系统想要的，并把它弯曲得越来越低，以至于不会建造应该建造的那么多吉瓦。
Dwarkesh Patel：好吧，利率是资本主义的一部分，对吗？
Dylan Patel：是的，但在简单经济模型与更复杂的我们拥有的模型之间。
Dwarkesh Patel：你认为Amazon或Anthropic或任何公司明年发行债券的利率是多少？如果他们做数千亿美元的债务。平均利率是多少？
Dylan Patel：我不认为Amazon会做数千亿美元的债务。
Dwarkesh Patel：总共。假设大型科技公司。
Dylan Patel：超大规模企业总共，以及所有云……在我们做的模型中，2024年至2029年我们有大约11万亿美元的资本支出。
Dwarkesh Patel：总共？
Dylan Patel：总共。如果你用现金流资助尽可能多，你仍然会剩下超过5万亿美元的信贷需要发行，用于这个11万亿美元以上的建设。
Dwarkesh Patel：所以你认为AI收入不会继续每年增长3倍？
Dylan Patel：AI收入确实会上升。我不认为没有某些限制被触及，它可以永远上升。实验室会有某些激励。实验室在很多情况下不是建造所有计算的人，尽管他们越来越试图走那条路。
Dwarkesh Patel：但他们会拥有所有这些现金流。你说收入将是多少？你认为他们不会有那么多收入？
Dylan Patel：不，我只是说直到2029年，有大约11万亿美元的资本支出。其中6万亿美元由现金资助，5万亿美元由债务资助。如果是这样，整个生态系统筹集5万亿美元的债务确实会使利率上升。
那么什么阻止了这一点？有几件事。一，实验室是否每兆瓦增加更多收入并保持推理分配较大？在这种情况下，他们积累着整个S&P 500的利润，因为每个人都在支付以降低他们的成本。当然，他们的利润也会上升，但现金必须来自某个地方。所以他们的收入增长相对于他们交付给世界的价值有一个上限。而且技术有扩散方面。
但最终实验室的收入持续上升。他们不能现金资助一切。最优方案是尽可能多地使用信贷，因为即使实验室的现金流资助了很多东西，你想建造得比那更多。所以有一定数量的信贷被建造。
我们当前的模型有5万亿美元的信贷和6万亿美元的现金资助的基础设施投资，直到2029年。当你这样做时，这相对于AI模型的需求增长来说是不够的计算。所以明显的答案是，每兆瓦收入持续上升。
Dwarkesh Patel：有道理。你认为到2029年利率会因此上升多少？
Dylan Patel：老兄，这是在凭感觉说一个数字，但如果你凭感觉说一个数字……世界经济在增长很多，所以为什么Amazon的利率不会从今天的位置上升？
这将是非常凭感觉的，但最近Meta以5-6%筹集。我不认为他们不会支付8%。他们会很乐意支付8%，因为他们将建造的计算的回报是巨大的。市场不会想要他们，但他们想要支付8%。
另一方面是，如果他们支付8%而不是他们今天支付的5%、5.5%、6%——增加250个基点——那使得经济中的其他每个人也支付更多250个基点，然后导致很多事情。银行会尖叫，因为如果他们的信贷利差扩大，他们的债务重新定价比他们的资产快。如果他们信贷利差爆炸，他们最终会损失很多钱。
Dwarkesh Patel：另一个后果——这是你提出的一个观点——是如果利率上升，折现率增加，这意味着所有股票的折现现金流暴跌。这意味着即使整个股市可能还好——S&P 500会没事——任何单个股票可能已经暴跌了价值，特别是巴菲特、伯克希尔那种，支付良好现金流30年的股票。
Dylan Patel：是的。就像，“我为什么要为强生支付这么多？”它们被视为稳定股票：良好的现金流，它们会随时间返还现金流。或者铁路公司。如果我折现率不是3%或5%，我他妈的为什么要投资那么多？现在是8%或10%。
Dwarkesh Patel：对于发展中国家……Basil Halperin，他是一个好朋友和经济学家，提出了这个观点，我们会看到第二个Volcker冲击。在80年代，为了对抗通胀，美联储主席Paul Volcker将利率提高了5%以上，大约8%的实际利率。那导致大约40个不同的国家，主要是拉丁美洲，在那个十年违约。我认为那可能会再次发生。
好的，现在我们开始谈论奇点。我们一直在谈论如果利率上升会发生什么——
Dylan Patel：我认为这一切发生在奇点之前，顺便说一句。
Dwarkesh Patel：是的，这就是我所说的。我们正在谈论奇点之前，利率上升2-3%等等。在某个时候，我认为世界经济很可能每年翻倍。这不是在五年内发生。但最终会。有一个研究员，Damon Binder，做了很好的工作。如果你看完全自动化经济中的投入产出表……要使经济中所有东西的存量每年翻倍，需要什么？
Dylan Patel：是的。如果经济以每年3%增长，那么70法则，那是20多年。
Dwarkesh Patel：对。但他像，“好的，现在我们被这样一个事实瓶颈：有人，你不能每年把人翻倍。”但在一个你也可以每年把劳动力翻倍的世界里，经济能增长多快？我认为它可以每年翻倍。至少会是每年百分之几十。
好的。利率应该与增长率非常接近。不会完全相同，因为消费，但应该相当相似。然后我们将进入一个世界，我认为在2030年代，利率是百分之几十。我的一部分大脑像，“可能是百分之几百”，但让我们说至少百分之几十。
我只是想，好的。每一个没有参与AI生产的国家都会违约。每一只不是AI的股票基本上价值为零，因为折现现金流一文不值。如果联邦政府找不到办法对AI征税，偿还债务超过当前税收收入。而且你还有所有这些其他我确定我们甚至没有定价进去的影响：你不能获得抵押贷款，等等等等。
从根本上说，这个世界发生了什么？这都是书呆子话，对吧？但让我们退后一步。发生了什么？
Dylan Patel：刚才开始，书呆子话？
Dwarkesh Patel：我们将进入一个完全不同的增长体制。经济基本上在说，“嘿，政府借钱支付人们养老金的的机会成本现在极高。因为那笔钱可以花在建造一个机器人工厂，而机器人工厂建造机器人工厂，机器人工厂建造机器人工厂。”资本的机会成本将大幅增加。这从根本上是我们谈论的所有这些事情的原因。
Dylan Patel：随着利率上升，股票市场被重创。甚至AI公司。一些真正相信AI的人会说，“为什么Micron或Hynix或Kioxia以2-3倍市盈率交易？”这就像，“好吧，如果你真的AI狂热，经济中的一切应该以2-3倍市盈率交易。”如果你不是AI狂热，那么当然，它们赚得太多。
这是一个论点，为什么——我认为内存会做得很好——内存股票不应该再次10倍或什么的。因为如果我们处于一个对内存有如此大需求的市场——这意味着AI导致了经济中的这种剧烈变化——那么一切应该以2-3倍倍数交易，股票市场应该他妈的崩盘。
在某种意义上，Meta以……我认为他们是大约1.5万亿美元的公司。这就像，什么？愚蠢。它们价值远不止于此，至少在逻辑意义上。你只要看他们的现金流，他们囤积的所有基础设施，以及他们能够以每瓦疯狂美元出售的所有计算，要么作为token因为他们的实验室工作，要么直接给Anthropic和OpenAI。
最终变成了一个问题，你必须将所有资本重新分配给AGI。你通过把其他所有人定价出来做到这一点。所以AGI的限制因素不是研究工程师，比如我们的室友Sholto，转齿轮有多快。实际上只是世界其他部分让这发生多少？
因为他们会监管。他们显然会提高利率。他们会说，“不要数据中心。”他们会说，“停止建造晶圆厂。”他们会说，“哦，操，每家公司股权价值都在暴跌，所以我怎么能支付AI来增加我的业务？”
那么，Anthropic和OpenAI必须开始自己建造东西。他们已经在建造自己的芯片，或者至少在设计自己的芯片，而且会扩张。他们在未来几年签约自己的数据中心并建造自己的基础设施。
有一个问题，经济的这种重新分配如何发生。有很多向下的压力，不让他只是直线起飞，即使模型有能力。我认为你和我相信我们处于一个模型有能力做到这一点的世界。但缓慢起飞，至少我的希望，是可能的，因为经济中和监管世界中的一切。政府说，“不要发布你的模型，”政府说，“实际上，你甚至不能在内部那么多使用你的模型，”因为那很快就会发生。他们已经在说不能发布你的模型。
Dwarkesh Patel：我最担心的是奇点，而外部部署实际上在帮助。所以我们阻止外部部署是愚蠢的。
Dylan Patel：那会阻止奇点吗？
Dwarkesh Patel：现在它会带来更多收入，因为模型没有能力进行RSI。但我担心一个世界，在2030年，政府说，“我们要等六个月才能让你向公众发布最新模型。”
Dylan Patel：六个月，100倍。我们走吧。
Dwarkesh Patel：在那六个月里，他们在内部进行递归自我改进。他们只是让各种疯狂的事情在公司内部发生。与此同时，我们其他人被困在模型上，以当前速度，落后几年。
这是我的想法。假设整个世界都参与这个阴谋，试图减缓AI。
Dylan Patel：我不认为这是阴谋。每个政客都公开写了出来。
Dwarkesh Patel：假设他们通过一年减缓AI。如果计算每年增长2-3倍，他们阻止了一整年的AI部署，使得你比原来落后一年。在RSI期间，你在一年内获得3-6年的AI进展。
Dylan Patel：但他们不仅限制计算。他们还限制实验室在内部发布模型的能力。我们看到了。
Dwarkesh Patel：如果他们这样做了，那将是理想的。
Dylan Patel：Anthropic不得不暂时停止给外国员工使用Mythos。
Dwarkesh Patel：我不知道那是真的，内部也？
Dylan Patel：那是他们声称的。
Dwarkesh Patel：我以为那只是一个不同的检查点，不是Mythos，但基本上是Mythos。
Dylan Patel：但像那样的事情也不会被允许。政府很蠢，但他们没那么蠢，我希望至少。政府——至少美国政府，它在这里有牌——不会希望Anthropic内部使用Mythos 4。他们会说，“等等，慢下来，”因为所有这些监管原因。
每个当选的人都会讨厌AI。甚至已经当选的人已经讨厌AI。所有选民。我打赌某个时候你的父母会打电话给你说，“Dwarkesh beta，你做得太糟糕了。你让AI进展更快。”
Dwarkesh Patel：因为我的播客加速了AI进展？
Dylan Patel：也许。你教育了人们。如果人们更聪明，他们正在更快地推进AI。
无论如何，你会有AI进展和部署的真实世界约束。尽管它最终会发生，但我们可能在到达之前就自相残杀。
Dwarkesh Patel：关于这些场景，我发现疯狂的一件事是，世界未来的劳动力中有多少最终落入很少的公司，而且这个劳动力每年增长多么快。如果前沿的计算以FLOPs计每年增长4-5倍——而且实现这些能力所需的计算每年减少3倍——基本上前沿实验室的有效AI人口规模每年增长10倍。这在目前并不那么重要，因为AI还不够好，不能做完整的工作，或者像人一样自主地工作或策划什么。
但如果当前趋势继续，你有一个世界，OpenAI从今年拥有大约1000万AI劳动力，到明年1亿，后年10亿。很快，即使计算缩放放缓，也不需要很多年，每个公司单独拥有的劳动力等价物比地球上的人还多。我认为这在本十年末非常可能，一个单一实验室内的AI劳动力，有效人口，比地球上的人还多。
我们经常谈论由于国有化或其他原因导致的权力集中化。但我们没有足够思考的是，我们实际上正在非常快地进入一个体制，大多数“人”，就工作产出而言，集中在两家实验室，它们消耗着世界上越来越多的计算。如果这些AI是错位的，那么世界上大多数是错位的，基本上，因为世界上大多数思想在那里。但即使它们不是，很少的公司有很大的影响力或很大的控制。
Dylan Patel：最近有一个争吵，我认为Gavin Baker说，“Dario相信世界上只会有一家公司。”然后Sholto和Dario出来说，“不，不，不。我们没这么说。”但最终，如果你相信RSI，如果你相信实验室是计算的最有效用户，并且能从计算中产生最大价值，那么唯一会发生的事情就是计算的集中化。如果你相信AI研究人员、RSI、AGI，那么所有这一切都存在，所有这一切都是基础。
Dwarkesh Patel：即使没有RSI，这也是真的。前沿的有效人口目前每年增长10倍，对于给定能力水平。所以如果你达到一个非常有能力的远程工作者或非常有能力的软件工程师或非常有能力的研究员的能力水平，以当前能力增长速度，这些人口每年增长10倍。
Dylan Patel：我明白了，而且没有RSI。然后一旦你有了RSI，它甚至更疯狂。
Dwarkesh Patel：那么它可能每年增长100倍或1000倍。或者它们的智力在增加，但人口没有增加。或者两者的某种混合，对吧？
Dylan Patel：你看到什么世界，Dwarkesh，其中一切不是集中化的？因为在我看来，每一种力量都尖叫着走向集中化。那太他妈的吓人了。
我会希望它不完全集中。但也许这就是一个热爱优雅的机器的全部意义，对吧？它是一切，它使我们的生活变得伟大。
Dwarkesh Patel：很难思考未来。但我同意你。我认为根本问题是，AI训练有巨大的规模经济，因为你花在训练AI特定技能或特定知识上的任何努力，都分摊到数十亿次会话或数十亿用户。所以这是一个效应。
另一个效应是，如果你在AI竞赛中稍微领先，并且计算短缺，你可以收取高得多的加价，因为你可以更好地经济化这种稀缺资源。所以有两个效应，给那些在AI竞赛中领先的人越来越多。可能还有更多。如果模型从部署中学习，并且一个模型比另一个部署得更广泛，它会获得更多的真实世界数据。
Dylan Patel：你的观点被接受，无论是用户部署和持续学习，还是训练和拥有这些规模经济，还是增量进展，其中最好的AI模型帮助你制作下一个最好的AI模型，RSI，所有这些都指向集中化。
Dwarkesh Patel：我认为一个大的智力项目，老实说，我们应该花一些时间思考——或者至少我会花些时间思考——是：什么是一个去中心化、广泛赋权的AGI后未来的愿景，它认真对待这些规模经济？替代愿景是政府控制它，也许你认为你可以更信任政府，因为它不是私人公司。
Dylan Patel：我不信任政府，也不信任Dario，也不信任Sam。
Dwarkesh Patel：那是一个问题，对吧？显然，对未来很容易犯错。你没有预料到关键效应或改变一切的东西。但事前，很难看到我们如何避免一个我们必须选择一种集中化来源的场景。
Dylan Patel：这就是资本主义起作用的原因，对吧？它是去中心化的决策和去中心化的权力。这就是为什么超级集中的资本主义经济实际上比超级去中心化的资本主义经济增长得慢，在某种程度上。你必须要有法治等等。但然后AI把所有这一切都颠覆了。最终你像，“实际上，私人所有权可能不是最有效的经济，因此它比一个集中化的AI经济增长得慢。”
Dwarkesh Patel：嗯，它仍然是私人所有权，但有多少公司真正参与了经济的这一份额？现在是，什么，大概经济的2%？1万亿美元除以30。Nvidia是巨大份额，还有Anthropic和OpenAI以及这些超大规模企业。显然还有其他公司参与，但AI的很大一部分只是从很少的公司发生的。所以它可以是私人财产，但很少公司参与。
Dylan Patel：我的意思是，这就是市场的结构正在做的事情。那么什么能阻止它？我不知道。除非AI进展放缓，除非政府他妈的严格监管，否则这就是所有会发生的事情。在这种情况下，我们正走向一个世界，要么我们拥有超级集中的资源，我们祈祷那一家公司把所有事情都做对，要么政府放慢一切，人们放慢一切，你会有某种进展放缓，希望，并且有更多的权力平衡。
即使当我们走向AGI、ASI、RSI，沿途的一切仍会导致有人捕获更多资源。所以很难找到一个框架，其中AI不导致超级集中。
现在，这里一个积极的事情是，今天Anthropic没有捕获大部分价值。我们可以随便谈论他们如何从每兆瓦2000万美元到每兆瓦1亿美元，但他们仍然为他们购买的大部分计算支付1300万美元。但最终，他们达到每兆瓦1亿美元的原因是因为Jane Street每兆瓦捕获3亿美元或5亿美元。或者Dwarkesh，从研究他的播客和学习信贷中，每兆瓦捕获多少美元？现在你能用多少？很难。
但我认为这是唯一的救命稻草，经济中的其他部分可能从Anthropic中获利更多——
Dwarkesh Patel：不，但你之前阐述的整个逻辑——他们重新分配推理到AI研发——那个逻辑是，AI实验室内部劳动的回报远高于外部。
Dylan Patel：是的。这是我的应对方式。我同意。在世界的所有场景中……有8万个世界，在其中只有一个，Anthropic不拥有整个世界。再说一次，权力集中，因为我不想把token发到外面。它们在内部更有价值。所以是同样的事情。我为什么要让Jane Street从这些堕落的期权交易员那里赚所有这些钱？
Dwarkesh Patel：嘿，他们是赞助商，拜托。耶稣基督。
Dylan Patel：不，我认为这很好。这对世界来说是一个很好的价值，使市场高效。Jane Street从正确获得世界观中赚所有这些钱，从堕落的期权交易员那里赚钱，不管是什么，Anthropic为什么要分配计算给那个？如果Jane Street每兆瓦的最终货币化是2亿美元，所以他们愿意付给Anthropic 1亿美元……好吧，如果Anthropic可以通过内部使用那个计算每兆瓦产生数亿美元呢？这就是正在发生的事情。
Dwarkesh Patel：在这个悲伤的音符上，我想我们会在RSI正式启动时再次见面。
Dylan Patel：你不会再让我上你的播客，要等两个月？
Dwarkesh Patel：好的，酷。谢谢，老兄。