Dario称Anthropic可能成为全球唯一公司。马斯克：最有娱乐效果的结局往往最可能发生
风起
Gavin Baker是美国对冲基金Atreides Management的管理合伙人兼首席投资官，科技投资人，早期投过SpaceX，常上All-In播客。“All-In”是由David Sacks等四位硅谷知名科技创业家、风险投资人主持的科技商业播客。
他在8月14日最新一期All-In上转述的“Anthropic极大主义愿景”，迅速在硅谷和X上炸开了锅。
Gavin说，他听多个信任的人讲，公司CEO Dario Amodei曾说过Anthropic某一天可能成为世界上唯一的私营公司。不过Gavin自己并不看好，也提醒大家谨慎对待。Anthropic研究员Sholto Douglas则坚决否认，说这是假的，并强调公司在激烈市场竞赛中支持AI竞争。Dario也罕见的现身回应。
Anthropic是全球人工智能头部企业，业务增长迅猛，第二季度营收115亿美元，是去年同期的14倍多，2028年的预测营收接近2000亿美元。几个月内很可能发起人类有史以来最大IPO。
爆料
Gavin Baker：
“在Anthropic内部，他们非常自信。多个我信任的人告诉过我，Dario说过Anthropic某一天可能成为世界上唯一的私营公司。想一想。在这个Anthropic极大主义愿景里，只有Anthropic，然后就是各国政府，仅此而已。他们信心很足。我确定他们手里还有比Fable更先进的模型版本。他们执行得非常好。我可能不会押注他们成为世界上唯一的私营公司。是的，我觉得他们离回收火箭还需要很长时间。”
Jason Calacanis：
“或者给你送午餐。世界上可能还有别的生意。Zipline可能想给你送个墨西哥卷。Uber可能想带你去个地方。Waymo可能想开车送你回家。但当然，Dario...”
David Sacks：
“我可能会把这解读为一个负面信号，因为这太自大了。这有点进入SBF那种狂妄的境地了。”
Gavin Baker：
“我肯定会劝Dario以后再也别对任何人说这种话。”
反驳
Anrhtopic研究院Sholto Douglas在X上直接回应，贴出Anthropic CEO Dario Amodei文章里的一段截图，标题是“Economic concentration of power / 经济权力集中”。
文章大意是：除了失业和贫富差距，还有另一种失权——财富高度集中后，少数人用影响力左右政策，普通人没有经济杠杆，民主的社会契约可能失灵。
Sholto贴这段，是为了证明Anthropic自己也在担心权力集中，并主张竞争和资本主义。
他写道：
“完全虚假。我喜欢Gavin的观点，但是，告诉他这事的人是在撒谎，好让它符合某些人拼命想让你相信的叙事。同一批人会试图让你相信Anthropic没有护城河，下一句又会说它可能强大到成为唯一剩下的公司。
事实上，我们最担心的事情之一就是经济权力集中。政府不应该让任何公司拥有这么大的影响力。我们需要竞争和资本主义。
AI市场眼下就是全球竞争最激烈的市场——地球上每一家最大的公司都一门心思给你更聪明、更便宜的模型。如果一切顺利，我们会成功把万物的成本降到能源的成本。这很棒，但也威胁到很多人的旧护城河。他们害怕了。
当然，有了AGI之后，资本主义会变得非常奇怪，公司本身是什么都会不一样。”
乱入
马斯克在Sholto的帖子下回复：“最有娱乐效果的结果最可能发生，尤其是如果它带有讽刺意味。”
Sholto回了一句：“我们得保持娱乐效果，才能让这个模拟继续运转。”
7月，马斯克在接受《经济学人》采访时评价Dario：
“我觉得Dario是一个非常有原则的人。他对很多事情都非常在意。他关心世界的未来。而且我目前见过的Anthropic每个人都一样，没有人触发我的邪恶探测器。他们总是看起来动机良善。”
但他同时也委婉地批评了Dario的沟通方式
“Dario在Mythos这件事上确实给自己挖了坑，因为他说过，Mythos超级吓人、很可怕。而且，顺便说一句，我们会发布它。……我想以后他大概会换一种措辞。因为很明显，如果你先把所有人吓坏，然后说，哦，我们要发布这个吓人的东西，人们当然会对此警觉。”
回应
Gavin以长文回复Sholto：
“Sholto，谢谢你澄清事实。更大的问题是，硅谷很多非常严肃的人都听到过某种版本的说法，而且信以为真。之所以这么多人觉得可信，是因为它与Dario的公开表态一致，也与他分享的那篇文章里所写的一致：这项技术可能以多种方式对人类构成危险，可能导致经济权力极度集中（正如文章所述），因此需要审慎监管。我同意潜在风险，也相信Dario是出于善意提出这些论点。
正如播客上讨论的，如果一个人同意AI可能有危险，那么应对这种潜在风险有两条路。要么通过监管把它集中在少数被选中的公司和政客手里，要么广泛分发。本质上归结为一个人是认为AI太危险而不能集中，还是太危险而不能分散。两边都有合理论点，但我深刻认同扎克伯格的话：‘那种认为AI如此危险，以至于唯一安全道路就是极度集中权力的想法，本身就有问题。历史上，寄希望于绝对权力在足够开明的情况下仁慈地为人类提供福祉，并没有带来安全或正面的结果。’
正如Dario在前述文章里说的：‘有些人可能会反对，认为我们可以像对待人类一样，在众多AI系统之间保持权力平衡来制约AI。’我相信这是最好的前进道路：我希望尽可能多的AI存在，以最大化其中一个与我自己特定价值观一致的概率。正如Dario指出的，从来没有人能够接管世界。
到了这一步，我认为可以说Dario已经输掉了这场争论。他的信息传递没有带来他所偏好的监管路径。最近一起事件中，一个未发布的OpenAI先进模型入侵了Hugging Face，而唯一的解决方案是一个开源模型，这一事实很可能终结了短期严格监管的任何机会。除了Anthropic之外，基本上所有大公司都签署了Jensen的信。
然而，Dario的表态对美国国内禁止数据中心的努力帮助巨大。我怀疑我们将看到反数据中心倡导团体投放广告，使用Dario警告AI可能对人类有多危险的片段。他支持监管的善意努力，现在正在增加AI不会惠及美国人和全人类的可能性。我相信AI有合理机会帮助我们治愈大多数疾病，让我们延长寿命，并在一个像《星际迷航》那样富足的未来里享受长寿。那是我想要的未来，而我认为Dario正在降低这个未来发生的概率。
他即将成为全球最重要的上市公司之一的CEO，鉴于支持监管的努力已经失败（至少目前如此），我恭敬地认为他应该努力成为自己行业更积极的倡导者。如果我错了，我们确实需要监管这项技术，那么他未来因为曾对替代方案持开放态度，会成为更有效的倡导者。
为了说清楚，正如我在播客上概述的，我认为Anthropic有深厚的竞争优势，是一家了不起的公司。讽刺的是，几个月前我看到的Anthropic主要风险，正是由于Dario自己的言论和行为而导致的国有化。”
众评
Anthropic品牌与传播官Sasha de Marigny说：
“Dario从没说过这话，完全是彻头彻尾的胡说。”
科技评论账号X Freeze转述了黄仁勋对Dario的评价：
“这有点让我想起Jensen当年对Dario的评价。第一，他相信AI太可怕，所以只有他们才应该做；第二，AI太昂贵，别人都不该做；第三，AI强大到所有人都会失业，这正好解释了为什么只该由他们一家来造。负责任的AI应该公开研发。别在黑屋子里做，然后告诉我它很安全。”
以色列科技创业家，Nexar创始人Eran Shir说：
“Gavin关于集中式与分布式AI的评论非常值得一读。我谦卑地补充一点：那些像Dario一样相信高度集中、高度监管AI的人，需要给出一个严肃的论证，解释为什么最擅长模型训练艺术和科学的人，也会最擅长处理AI将如何被使用的道德与社会决策。除了纯粹的自大和传统资本主义，很难想出别的理由。如果Dario在招股书S-1文件中宣布，他将把决定Anthropic所造模型命运的权力交给一个由专家和代表组成的公共委员会，我会认真得多地对待这套论证。我怀疑这不会发生。”
对冲基金Lupton Capital的CIO Jonah Lupton说：
“如果Dario真说过这话，那说明他神智已经不太对劲了。”
Dario现身
就在刚刚两小时前，Anthropic CEO Dario Amodei罕见现身，他在X上引用Gavin的帖子，连发两篇长文澄清。他自己也说，平时不怎么花时间在社交媒体上。
“1/2 谢谢Gavin，这是一次尤其有思想深度的交流。我通常不花太多时间在社交媒体上，但我想在这里回应，因为它真正触及一场重要对话的核心。
首先，关于监管。我认为‘要么通过监管把它集中在少数被选中的公司和政客手里，要么广泛分发’是一个虚假选择。我知道硅谷有一种简化的说法：监管=监管俘获=权力集中，但我一直觉得这是对世界过于简化的描绘。这个泡沫之外的很多人把监管看作约束企业权力、惠及普通人的东西。我也不一定认同那种视角，而是认为这很复杂，真的取决于‘监管’具体由什么构成。但特别地，我认为那些持‘监管=监管俘获=权力集中’框架的人，往往低估了客观、公正的制度过程所具有的去中心化力量。一个粗略的类比是：正式法院系统有时可能显得古板、精英主义，但它在捍卫弱势个体权利方面比另一选择——暴民正义——做得好得多。制度在最好的情况下，可以把权力赋予理念而不是个人，从而让权力去中心化。
这就是为什么Anthropic一直非常谨慎地提出政策建议。我们非常努力地提出那些让前沿AI公司处于不利地位（放慢速度）、同时有利于较小竞争者的建议。加州SB53（我们支持）以及备受批评的SB 1047（我们态度矛盾），都完全豁免了收入或模型训练成本低于一定门槛的公司（SB53是5亿美元，SB 1047的门槛更低，但我们曾反对那个更低的门槛）。最近我们在CAISI和白宫倡导的测试过程，对前沿模型比非前沿模型施加更严格的测试——这会差异化地有利于挑战者。类似地，‘Pacing the Frontier’信设想（或至少Anthropic偏好的实施版本设想）调节最顶尖模型的速度，同时不约束那些正在追赶的模型。这损害前沿实验室的商业利益，却帮助挑战者，包括开放权重（open-weights）模型！
总体而言，我的看法是，AI在结构上是一种倾向于集中权力的技术，原因与监管无关（更多与扩展法则的极端含义有关）。开放权重确实在某种程度上对此有帮助，但远非足够解决方案，因为它们只是把集中度部分转移到那些拥有最多算力和芯片的人身上（大致就是前沿实验室加上或许硬件供应商）。相比之下，我认为正确的‘道路规则’可以同时做到(a)应对AI的网络/生物/对齐风险，(b)在制度上约束前沿AI公司的权力，(c)给开放权重模型留出空间，同时应对它们带来的特定风险。
顺便说一句，我并不认为过去几个月的事件‘未能促成[我]偏好的监管路径’。据报道，特朗普政府正在采取的路径——对前沿模型进行部署前测试，并在开放权重模型接近前沿时也测试它们——是我非常支持的，当然我还需要看到细节才能确定。我也支持Demis Hassabis关于一个FINRA式实体的想法。这与六个月前形成对比，当时行业多数仍在推动以联邦法排除所有州监管，而联邦层面也没有明显方案。”
“2/2 其次，关于AI的信息传递。我不同意我的信息传递过度负面。事实上，它在风险与收益之间大致平衡：我各写过一篇重要文章，即使在我讨论风险的访谈中，我也确保频繁提及令人难以置信的收益，并提出应对风险的可能解决方案（我的访谈中被截到社交媒体上的短视频往往过度负面，因为那能获得点击量）。事实上，我写《充满爱的机器》（Machines of Loving Grace），正是因为我觉得AI行业没有描绘出一幅足够鼓舞人心的图景，说明这项技术如何能从根本上把世界变得更好。文章大部分篇幅用于反驳对AI在健康和生物学领域潜力的怀疑，并说明我为什么认为实际上有可能在约5到10年内治愈大多数人类疾病，尽管这听起来对普通人、坦率地说对生物学家也很疯狂（我曾经就是一名生物学家！）。而且，如果你读我最近的文章《关于AI指数增长的政策》（Policy on the AI Exponential），我讨论了如何精简FDA流程，确保AI加速药物的大量涌现不会被监管流程拖慢。我在这里感受到紧迫性：我父亲在直接抗病毒药物（sofosbuvir）研发出来的前几年死于丙型肝炎，这种药能治愈95%的患者，本可能治愈他。
我确实同意公众对AI持负面看法（而且这是一个大问题），但我认为主要不是由我或其他AI领导者警告AI风险造成的。我认为这根本上是一场信任危机。我认为普通人不信任公司、政府或科技行业，总是怀疑我们在炮制某种新的方式坑害他们。其原因可以追溯到几十年前，AI只是这一点的最新迭代。我不认为那种带有正面包装的华丽营销活动（有些人曾主张Anthropic这么做）是赢回信任的办法——到这个时候，说AI会治愈癌症更像陈词滥调，而不是鼓舞人心，多数人认为这是在骗人。真正有效的做法是真正治愈癌症。我认为到目前为止，对AI公司包括Anthropic最准确的批评是，我们还没有兑现我们让世界受益的大承诺。这完全怪我们，而且我认为这才是你应该提出的批评，而不是所有那些关于信息传递和营销的事情。
不过，我们正在尽最大努力解决这个问题：Anthropic正在非常迅速地加大在生物学和医学上的投入，我们希望在未来几年取得令人难以置信的成果，在未来几个月有一些早期曙光。当我们真正做出某种真实成果时，全世界都会听到，越响亮越好，我向你保证。但在此之前，我不想做出空洞承诺；而在此期间，我不得不诚实地谈论AI非常真实的风险以及如何应对它们。诚实本身就是正确的事；就公共可信度和信任而言，它也不比那种忽视或转移人们对风险注意力的做法更差，甚至可能更好。人们本能地理解这些风险是真实的。”
有趣的对话
Gavin Baker在Dario发帖约20分钟后回复：
“许多想法。
最重要的是，我认为你以如此建设性、深思熟虑的方式在这里参与，是非常好的。公开对话是与公众建立信任的好方法，而这些困难、沉重的议题理应在一个众所周知的‘城镇广场’上辩论。
真理会让你自由，但只有你能说出自己的真相。我认为你的文章一直很棒，但考虑到人类心理，我认为50/50的风险与机遇平衡可能太偏向风险。但理性的人可以有不同意见。
是的，行业能做的最好的事就是‘真正治愈癌症’，我等不及这件事发生。
感谢你为让这在未来几十年成为现实所做的一部分努力。”
马斯克也转发了Dario的回复，并评论：“有趣的对话”
担忧
AI究竟会带来技术和经济平权，还是会让权力和利润进一步收拢？这将是人们长期探讨的话题，但无论这个问题的回答是什么，整个硅谷和世界都会担心“极端自信/傲慢”背后所揭示的世界观风险。