OpenAI奥特曼最新发声：希望中美能在AI领域保持合作，避免军备竞赛
本月初，马斯克曾向法院申请禁令阻止 OpenAI 转型营利性组织；于此同时，一贯与马斯克不对付的扎克伯格也选择站队马斯克！通过 Meta 向加州总检察长发信阻止 OpenAI “营利”。
面对前纽约时报作者 Bari Weiss 关于 Altman 与马斯克之间恩怨纠纷的疑问 ，Sam Altman 表示：“他是一个传奇的企业家。但他显然是个霸道的人，而且喜欢争斗。现在是针对我，以前是 Bezos、Gates、Zuckerberg，还有很多其他人”。
Altman指出，AI 技术正在以超出预期的速度发展，未来 18 个月的变化可能会比过去一年半更加显著。
他预测，超级智能可能会在未来几年内出现，并将其定义为一种显著提升全球科学进步速度的技术能力，比如过去需要十年完成的技术进步将在一年内实现。
关于中美 AI 军备赛，Altman 的立场展现出清晰的战略平衡：一方面，确保美国技术领先是首要目标；另一方面，他对中美合作的可能性持谨慎乐观态度，希望 AI 能推动世界和平，而非加剧对抗。
以下为这次对话的主要内容：
Bari Weiss
在 2024 年即将结束的日子里，不仅 AI 是什么以及如何使用它变得清晰起来，ChatGPT 的日活用户已经超过 1.2 亿，每天处理超过 10 亿次查询。而且，AI 的政治和文化影响、争议以及未来几年的辩论方向也变得越来越清楚。
这些问题十分重大：谁将引领我们进入这个新的 AI 时代？哪家公司会率先实现市场主导地位？这些公司将如何被构建，以确保不被具有恶意动机的坏人操控技术做坏事？政府在监管这一切时应该扮演什么角色？
在这些重要问题的中心，至少目前，是两个人：Sam Altman 和 Elon Musk。如果你还没有关注过，他们并不完全一致。我不信任 OpenAI，也不信任 Sam。我认为我们不应该让世界上最强大的 AI 被一个不值得信任的人控制。
Elon 和 Sam 一开始是朋友和商业伙伴。事实上，Sam 和 Elon 在 2015 年共同创立了 OpenAI，也就是开发 ChatGPT 的公司。但这些年来，Elon 对 OpenAI 越来越感到沮丧，直到 2018 年最终辞去了董事会职务。
今年，这场纷争进一步升级，Elon 多次起诉 Sam 和 OpenAI，试图阻止他们启动公司盈利部门的计划。
他声称 OpenAI 原本就不应该有盈利部门，他总是提醒人们，一个非营利、透明的公司不应该变成一个封闭的盈利性公司。他甚至认为，这样改变结构可能是违法的。
从某种意义上说，这是一场非常复杂的争论。如果你想理解每一个细节，可能需要法律学位和美国税法的专业知识——我恰好两样都没有。
但你无需专业学位或专门知识就能明白，这场争论的核心远远超出了 OpenAI 的商业模式（尽管这本身非常重要，也是我们今天会讨论的）。
从根本上来说，我认为这场争论真正关乎的是谁将最终控制这项技术——一种可能会在使用不当时让人类变得无足轻重的技术。因此，这事的利害关系不低。
接下来，我们将听听 Sam Altman 的看法。我们会讨论 AI 的未来走向、他为何认为超级智能（也就是 AI 超越人类能力的那一刻）比以往任何时候都更近，还会谈论 AI 偏见和审查的风险、他为何捐赠 100 万美元给特朗普的就职基金（尽管他长期以来反对特朗普）。
以及如果美国在 AI 竞赛中输给像中国这样的外国会发生什么。当然，还有他与地球上最富有的人之间的分歧究竟出了什么问题。
Sam Altman，非常感谢你来到这里，坦率地说，真心感谢。上一次我们交谈是在 2023 年 4 月，我知道自那以后你接受了无数采访，但那次的感觉就像是另一个时代。
当时 ChatGPT 刚刚发布，人们还处于非常初步的阶段，试图弄明白这种技术到底是什么，以及它可能会如何改变日常生活。而现在，在 2024 年 12 月的今天，ChatGPT 已经是一个家喻户晓的名字，OpenAI 也是如此。
当然，还有一些竞争对手，比如 Perplexity、Gemini 和 Claude。普通美国人每天都在使用这些工具，从数学辅导到调试代码，再到撰写邮件，它们非常擅长这些事情。
告诉我，过去一年半以来，ChatGPT 和更广义的 AI 技术发生了哪些变化？是否达到了你当初的预期，还是比预期更进一步？
Sam Altman
我认为可以从两个方面来看。一个是技术本身的进步，这方面已经有了巨大的提升。
如果回想 2023 年 4 月让我们兴奋的 AI，那时的技术相较于现在简直是原始的。而技术的能力现在让我感到非常震撼。但更让我惊讶的是，未来一年内它还会继续以惊人的速度改进。
如果我们再过 18 个月再谈这个话题，我认为我们会觉得从 2023 年 4 月到 2024 年 12 月之间的差距非常大，而未来 18 个月的差距可能会更大。
另一个发生的变化是，AI 真正融入了社会。当时，它还是一个新奇的东西，或许人们听说过它。
但现在，人们真的开始大量使用它，无论是工作、个人生活，还是你刚才提到的各种用途。我从未见过一项技术以如此快的速度被广泛采用，不仅是人们偶尔尝试一下，而是变成了日常生活的一部分。
所以，这种 adoption 曲线的变化比我预期得快得多。我本以为技术的进步会很快，但应用的速度更让我吃惊。
Bari Weiss
你是如何在日常生活中使用你帮助创造的工具的？我认识的很多人，比如 Tyler Cowen 和其他早期 adopters，他们似乎已经完全用它取代了 Google，对他们来说，它更像一个深层次的 Google。它对你来说是这样吗？
Sam Altman
我用它做了很多事情，但最新的一个功能是几个月前我们推出的搜索集成功能。现在 ChatGPT 可以搜索实时信息。这是我们迄今为止推出的所有功能中，让我使用量翻倍的一个功能。
自从那以后，我可能还会用 Google 做一些事情，但我已经不记得是什么了。我已经把 ChatGPT 设置为 Chrome 的默认搜索引擎，从那之后就没有回头了。这种行为改变对我来说是巨大的，因为之前的习惯已经根深蒂固了。
而现在，当我回想过去的搜索方式时，会觉得那种方式简直像“前 iPhone 时代”的体验。这就是我对这种变化的感受。过去几个月，这种转变对我来说是最令人惊讶的。
Bari Weiss
你会称之为“搜索”吗？还是有类似于“Google”那样的动词？
Sam Altman
我还是称之为“搜索”。不过其他人可能会说“我用 chat 查了一下”或者“我 chat 了一下”。尤其是年轻人，他们似乎只称它为“chat”。但我还是说“搜索”。
Bari Weiss
Sam，在 9 月份，也就是几个月前，你在自己的网站上发表了一篇宣言，预测超级智能将在未来几年内出现，或者用你的说法，“未来几千天”。
给我们解释一下什么是超级智能？我们如何知道它是否真的已经到来？它将在未来几十年如何改变人们的生活？
Sam Altman
我用来建立自己心智框架的一种方式是看科学进步的速度。如果全世界的科学进步速度提高三倍，甚至十倍，比如过去需要十年才能实现的发现和技术进步，现在每年都在发生，然后年复一年地累积下去，这对我来说就像超级智能已经到来。它将以多种方式改变社会和经济的运作。
但我认为不会改变的是深层次的人类驱动力。我认为很多 AI 评论家对此看错了。纵观历史，我们经历过许多技术革命，但那些真正驱动人类的核心东西几乎没有变化，也许根本没有变化。不过，我们所处的世界会发生巨大的变化。
Bari Weiss
好的，Sam，今天我们想与你对话的一个原因，不仅是因为我们想了解 AI 将如何改变我们的生活和工作方式，还因为你正与 OpenAI 的创始合伙人 Elon Musk 进行一场公开的斗争。
我想大部分听众大概知道你们之间有冲突，可能与 Elon 的众多公司之一有关，但他们未必会了解那些诉讼的具体细节以及你们之间的争端。
因此，我想尽量以最公正的方式总结一下这些情况，然后你可以告诉我哪里不对或者我有没有夸大其词。
OpenAI 成立于 2015 年，最初是一个非营利组织。在同年 12 月你们向公众介绍 OpenAI 的博客文章中，你写道：“OpenAI 是一家非营利的 AI 研究公司。我们的目标是以最有可能造福全人类的方式推进数字智能的发展，不受盈利需求的限制。
因为我们的研究不受财务义务的束缚，我们可以更好地专注于积极的人类影响。”这是 OpenAI 品牌形象的重要组成部分。
几年后，到 2019 年，OpenAI 转向了一种所谓的混合模式，成立了一个盈利部门，当年获得了微软 10 亿美元的投资。从那时起，微软已经向 OpenAI 投入了大约 130 亿美元，也可能更多。
而 Elon 从一开始就是联合创始人，但随着时间推移，他与公司的关系逐渐恶化，因为他不同意这种模式转变——从非营利模式到混合模式。最终，他离开了公司并辞去了董事会职务。
今年，Elon 多次对你和 OpenAI 提起诉讼。他还在许多采访中表达意见，并发布了无数推文（或者现在叫“X”），讨论这场冲突。这些诉讼声称，你们在推进 AI 的过程中，将利润置于公共利益之上，违反了某些合同。
最近一次发展是，上个月 Elon 要求加州的一名地方法官阻止 OpenAI 转换为盈利结构。这就是事情的概要。我总结得对吗？还有什么关键内容被我遗漏了吗？
Sam Altman
总结得大致正确，但有一个错误。其实是 Elon 最早希望 OpenAI 成为一家盈利公司——不是转换，而是从一开始就设立为盈利公司。他当时提出了一系列建议，包括让 OpenAI 成为 Tesla 的一部分，或者干脆新建一个他能掌控的盈利公司。
除此之外，你的总结基本正确。我对这些有很多想法和意见，但就事实陈述而言，基本上是准确的。
Bari Weiss
请用更概括的方式告诉我们，Elon 和他的一些盟友（比如 Meta）与 OpenAI 之间的根本分歧是什么？
Sam Altman
听着，我无法进入 Elon 的脑袋里，所以这只是一些推测。Elon 确实在 OpenAI 的早期做出了很多贡献。尽管现在发生了这些事情，我仍然非常感激他。
我认为他是一个传奇的企业家。但他显然是个霸道的人，而且喜欢争斗。现在是针对我，以前是 Bezos、Gates、Zuckerberg，还有很多其他人。
我认为，根本上，这场冲突是因为 OpenAI 发展得非常好，而 Elon 非常在意“做得好”。Elon 创立并运营了一家直接竞争的公司，试图做与 OpenAI 一样的事情。而且他目前对那家公司的结构拥有多数控制权，这是他一贯会做的事情。
媒体对这件事的报道很多有误解。即使我们最终选择了某些转换或演进的方向，也并不是说非营利组织会消失。我们的非营利组织不会终止，更不会变成盈利公司。
我们公开探讨过将现有的 LLC 转变为一个公益公司（PBC）的可能性，但无论我们采取什么措施，都会强化非营利组织的功能。
非营利组织会继续存在，并且更好地服务于最初的目标：开发令人难以置信的技术，以我们认为对人类最有益的方式加以应用，并将其带到人们手中。
我为我们在这方面的成绩感到非常自豪。正如你刚才提到的，人们在使用 ChatGPT，并且非常喜欢它。我们提供了免费的 ChatGPT 服务，甚至因此亏损。
这不是广告支持的模式，我们只是想把 AI 技术放到人们手中，让他们与之共同演化、理解它，同时让世界经历应对 AI 和最终 AGI 的过程。
我相信，如果 Elon 不在意对 OpenAI 的控制权，他会对我们正在做的一切感到满意。他离开时认为我们注定会失败，也不会支持一个他不能完全控制的 OpenAI。
但我认为，这些争议有点像是旁枝末节。我们正确的做法就是继续进行卓越的研究，继续发布人们喜欢的产品，最重要的是，继续追求 AGI 造福人类的使命，并将其推广到全世界。
Bari Weiss
对于刚接触这个话题的人来说，Sam，为什么 OpenAI 需要一个盈利部门，或者说需要以你们所讨论的方式进行转型？这对你们的发展为何至关重要？
Sam Altman
当我们在 2015 年创立 OpenAI 时，很难回想当时的情境有多么不同。那是语言模型和聊天机器人诞生之前的时代，更不用说 ChatGPT 了。
当时我们做的研究包括发表论文、开发可以完成电子游戏的 AI，以及控制机器人账户等项目。当时我们的目标是筹集 10 亿美元，但最终没有实现。我们以为 10 亿美元可以让我们在追求目标的道路上取得显著进展。
随着我们对规模化语言模型的了解加深，我们意识到这远不止 10 亿甚至 100 亿美元，而是需要数千亿美元才能完成。作为一家非营利组织，我们无法实现这一点。这就是我们转型的根本原因。
Bari Weiss
换句话说，这对于实现所需的计算能力至关重要，对吗？
Sam Altman
完全正确。而且，所有其他从事 AI 的机构也意识到了这一点，并以某种方式设置了可以接入资本市场的结构。
Bari Weiss
最近你对 Elon 说了很多不同的话。在接受 Dealbook 采访时，Andrew Ross Sorkin 问你怎么看待这场冲突时，你说感到“难过”，同时你也说你认为 Elon 的公司都很棒。
他还问你是否认为 Elon 会利用他新获得的政治影响力来惩罚你或 OpenAI，甚至惩罚他的竞争对手。
而你在采访中表示，你认为他会做正确的事情。但你刚才又说 Elon 是个“霸道的人”。霸道的人通常不会做正确的事情，你怎么看待这个矛盾？
Sam Altman
我觉得两者完全可以并存。我认为有些人会在 Twitter 上表现得很恶劣，但并不代表他们会滥用他们在国家体系中的权力。对我来说，这完全是两回事。
Bari Weiss
到目前为止，这场争论对于那些脑子里一直被 Twitter 占据的人来说，主要是通过推文、暗示性的推文实时上演的。
而 OpenAI 则大多处于回应模式，有时甚至可以说是忽略了这些争论，这是我的总体感受。然而，几天前，你们改变了这种状态，发布了一篇非常长的备忘录，发表在 OpenAI 的网站上。
这篇文章很完整，像是一个时间线，从 2015 年开始，试图通过电子邮件、短信截图以及对这些内容的解释来证明，从一开始 Elon 就愿意让 OpenAI 成为一个盈利组织。
“这篇文章详细描述了 Elon Musk 和 OpenAI 领导层之间的分歧，特别是 Sam Altman，与 Elon 对 OpenAI 从非营利模式转向混合盈利模式的不满有关。
这场纷争之所以重要，是因为它突显了一个更广泛的伦理难题，即 AI 应该如何被开发和控制，是优先考虑公众利益，还是企业利润，特别是在强大的 AI 技术对社会和经济的影响越来越大的情况下。”
Sam Altman
这总结得相当不错。你觉得呢？
Bari Weiss
总的来说，你们确实没有在 Twitter 上和 Elon 一来一回地争吵。你们之所以发布这份备忘录，是因为必须提交法律文件，并想为其提供一些背景。对吗？
Sam Altman
是的，这一次我们不得不回应法律诉讼，并提供一些背景。其实我们之前也只在需要提交法律文件时发布过声明。
我已经记不清 Elon 起诉过我们多少次了，应该有 4 次左右吧，包括撤诉、更改诉求、申请初步禁令等等。我们的任务是以对人类有益的方式构建 AGI，并想办法让它安全且广泛地分发。
我们的任务不是与 Elon 在 Twitter 上打嘴仗。但当我们需要回应法律文件时，我们会这样做，有时也会提供一些背景信息。我记得我们只这样做过两次。
Bari Weiss
在 OpenAI 的早期，品牌形象一直强调透明性和非营利性。你当时说不拿股权、拿很少的薪水，是因为你不想有利益冲突，只想专注于做对人类最有益的事情。
2015 年 OpenAI 刚成立后的第二天，你在接受 Vanity Fair 采访时形容 OpenAI 是一家“拯救世界免于反乌托邦未来的非营利公司”。你还说，试图让 OpenAI 成为盈利公司会导致“与全球利益不一致的激励机制，这是次优的选择”。
我想问的是，你是否仍然同意这个观点？或者只是不得不适应现实——即开发这些模型需要数百亿美元的资金？
Sam Altman
两个层面。一方面，我认为当时我有点错了。尽管我曾有担忧，但让我印象深刻的是，不仅是我们，其他 AI 实验室在面临巨大市场或经济激励的情况下，也非常专注于开发安全的模型。这其中有很多因素，包括技术发展的方向让我们有些幸运。
另一方面，我认为如果你以有害的方式部署这些模型，会很快失去操作的许可，特别是明显的错误。
不过，也存在一些不太明显的风险，比如社交媒体就是一个例子。当时它的危害可能不太明显，但随着规模的扩大，出现了意想不到的负面效应。
总体来说，激励问题比我当时想象得要好一些。我愿意坦率承认，10 年前的我对世界的运作方式有点天真，现在感觉更好了。
Bari Weiss
天真？怎么说？
Sam Altman
我低估了社会对大公司施加的压力，以及研究人员推动公司做正确事情的力量，即使面临巨大的利润驱动。
不过，有一点我当时和现在都不觉得天真：让我感到疯狂的是，这种事情发生在少数几家私人公司手中。对我来说，这感觉像是我们时代的“曼哈顿计划”或“阿波罗计划”，而这些项目并不是由私人公司完成的。我认为这是一个健康社会的标志。
Bari Weiss
你认为我们需要一个类似“曼哈顿计划”的国家项目吗？
Sam Altman
我认为公司会做正确的事情，而且结果会很好。我不认为当前世界下的政府项目会奏效，老实说，即使奏效，我也不觉得是好事。
我只是希望我们生活在一个这样的世界中：我会觉得这是应该发生的，也是正在发生的方式。
Bari Weiss
Meta 最近也站在 Elon 的一边。几天前，Meta 请求加州总检察长阻止 OpenAI 转为盈利模式。他们在信中这样写道：
“OpenAI 的行为可能会对硅谷产生巨大影响。如果 OpenAI 的新商业模式合法，那么非营利投资者将获得与传统方式投资盈利公司相同的回报，同时还能享受政府提供的税收减免。”
这与 Elon 去年说的话类似：“我不明白一个我曾捐款的非营利机构怎么会变成一个市值数十亿美元的盈利公司。”换句话说，如果这是合法的，为什么不是每个人都这么做？
Sam Altman
我不知道 Meta 为什么要发那封信，但我知道他们清楚事情并不是那样运作的。我认为信中有些部分是恶意的。在任何情况下，我们的非营利组织都会继续存在。捐赠给非营利组织的资金不会转化为盈利公司的权益，他们当然也知道这一点。
至于 Meta 的动机，可以有很多猜测。他们可能想讨好 Elon，也可能觉得这样有助于他们与我们竞争，或者因为我们被认为对开源不够支持（虽然我认为这并不准确）。具体原因是什么，应该去问他们。
Bari Weiss
对于普通听众来说，一个非营利组织如何转变为营利组织？答案是什么？
Sam Altman
不会转变，非营利组织仍然是非营利组织。我相信 OpenAI 的非营利部分正处于一个轨道上，我希望如果我们表现出色，它会成为历史上最大、最有影响力的非营利组织。
这个非营利组织不会变成其他形式。就像世界上的许多其他事物一样，我们的生态系统也可以有一个营利性的业务存在。
但这并不意味着非营利组织会转换成其他形式，非营利组织不会消失，也不会停止做非营利的事情。
Bari Weiss
归根结底，Sam，谁会从 OpenAI 的成功中获利最多？
Sam Altman
每个人。我希望大家都能拿自己的类比来说这次技术革命最像什么。有的人说它像工业革命，像电力，像互联网。但我希望它更像晶体管。我们发现了一种新的、重要的基础物理规律，或者你想怎么称呼都行。
我们和其他一些人做了大量研究，它渗透进经济的方方面面、各种产品之中。如今你我使用的很多设备中都有晶体管，使得我们能录制这个播客。
电脑里有晶体管，你的麦克风里也有。我们之间所有的网络设备里有很多晶体管。但我们并不会坐在这里思考晶体管，也不会因为某家晶体管公司而赚到所有的钱。
这是一项令人难以置信的科学发现，它渗透到我们所做的一切中，让所有人都能获益。这就是我希望 AI 能够做到的，我认为有很多理由说明它是最佳类比。
Bari Weiss
你有股份吗？或者你在这个新的封顶盈利机构中有什么样的权益？
Sam Altman
目前我们还没有成立新实体。当然，我们考虑过设立一个新实体，或者更准确地说，将现有的有限责任公司转型。
我有一小部分股份，是从以前 YC 基金留下的。我曾通过 Sequoia 基金拥有一些股份，但那部分更容易卖掉，我也没有保留。所以目前我持有的股份微不足道，从未来收益角度来看也无关紧要。
没有任何计划或承诺会让我再获得股份。如果我得到了，那也绝不会像外界传闻的那些离谱数字，那绝不可能。
Bari Weiss
你明白为什么大家对此如此关注吗？
Sam Altman
当然。我以前多次说过，如果我能回到过去，我会选择持股。我现在明白了，之前的顾虑是错误的。
不过，我也理解现在拿股份会显得很奇怪，毕竟以前没有这么做。另一方面，我真希望永远不用再回答这个问题，然后直接说“我们是一家普通公司，我是 CEO，有股份”，这样投资者也不用担心我的利益和他们不一致。
不持股导致的那些猜忌，是我对 OpenAI 结构设计中最遗憾的决策之一。但我理解人们为什么对此执着。
Bari Weiss
如果你能回到过去，你会从一开始就如何设计这件事？让我们回到 2015 年。
Sam Altman
如果有先知告诉我：
第一，你需要超过 1000 亿美元；
第二，即使你现在完全不知道如何将其商业化，也会从一个研究实验室变成一个可以向投资者解释其商业模式的公司；
第三，相关从业者的激励会更容易被控制，因为这不是某个领先所有人的单一努力，而更像是晶体管一样渗透到各个领域。
如果先知告诉我这些最终都成真，我会说，“好，那就做一个公益企业（Public Benefit Corp）。”
Bari Weiss
Elon Musk 对 OpenAI 的创建有多重要？如果先知告诉你后来你们会发生冲突，你会说“不需要他，我可以自己完成”吗？
Sam Altman
不会，他确实非常有帮助。
Bari Weiss
我第一次见到 Elon Musk 是在一个会议的舞台上，当时你在采访他。你们的互动非常好，看起来是非常好的朋友。
他后来对你说了一些很尖锐的话，比如将你比作《权力的游戏》中的小指头，还说他不信任你，不希望世界上最强大的 AI 被一个不可信的人掌控。他为什么这么说？
Sam Altman
因为他希望世界上最强大的 AI 被他掌控。我见过 Elon 对很多其他人、包括我的朋友也有类似的攻击。大家都会经历一段时间成为他的目标，这似乎是他一贯的行为模式。
Bari Weiss
作为前朋友、前联合创始人，他对你说这些话，你能保持相对冷静，令人惊讶。
Sam Altman
当然我会感到不安。我曾和一个我认为很亲近的人聊过，他们说，“Elon 没有朋友，Elon 不接受平等对待，也没有朋友。”这让我很难过，因为我确实把他当作朋友。但我现在可以更冷静地看待这件事。
我记得他曾说 OpenAI 成功的可能性是零，后来撤资并表示要自己干。之后有时候感觉他想和解，有时候又在社交媒体上自行其是。
如果这些攻击只针对我，可能会更痛苦。但我认为这是 Elon 的风格，而不是关于我的问题。
Bari Weiss
最近 OpenAI 的一篇博客提到 Elon 应该“在市场上竞争，而不是在法庭上竞争。”有人认为 Elon 开始进军 AI（比如他的 xAI 公司）并不是出于对 AI 安全的担忧，而是为了竞争。对此你怎么看？
Sam Altman
你得问他。
Bari Weiss
你不仅是世界上最重要的 AI 领导者之一，也是 AI 监管的积极倡导者。有人认为你推动 AI 监管是为了抑制竞争并使你的公司受益。对此你怎么看？
Sam Altman
过多的监管显然会带来巨大的负面影响，现在社会中很多地方的监管已经过度。包括 Elon 在内的许多大公司的负责人都呼吁 AI 监管。
当你乘飞机时，你会觉得它很安全；在美国吃食物时，你不会太担心食品安全。有些监管显然是好事。
我能想象一些不利于小型公司的 AI 监管方式，我认为那将是一个真正的错误。但对于最强大的系统设置安全护栏，只影响最前沿的公司，比如 OpenAI 和少数其他公司，我认为是合理的。尽管这些系统还没有达到巨大的安全风险水平，但我们可能离那个点也不远了。
Bari Weiss
有些初创公司提出了一些观点，比如有一家叫 Hugging Face 的 AI 初创公司（这个名字真是绝妙），还有 Stability AI 的创始人。
他们基本上说，Sam 和其他大公司，比如 OpenAI、Google 和 Apple，正在试图通过政府建立一种“护城河”，利用监管阻碍竞争。
你对这些人的看法是什么？这似乎是大科技和小科技之间的争论，可以用各种方式来框定。你如何回应那些认为你推动的监管会伤害他们而对你们有利的人？
Sam Altman
如果他们的意思是“我们落后于 OpenAI，所以无所谓”，而我们呼吁的只是对最前沿的技术进行监管，比如只针对新出现且未经测试的东西进行监管，而其他的，像开源模型之类的，可以随便发布。我觉得这种论点并不合理。
我很好奇你的想法。假设我们成功地创造了一个超级智能——一种可能比整个人类更聪明、更有能力的计算机程序——你认为应该对此进行任何监管吗？还是完全不管？
Bari Weiss
我绝对认为应该监管。首先，我甚至不完全理解“超级智能”这个概念的含义以及它的影响力，而你对它的理解远超我，这是第一点。
第二点，如果这种技术真的像你、Elon 以及其他接近它的人所描述的那样强大，当然应该以某种方式进行监管。关键是如何监管以及何时监管。
Sam Altman
如何监管和何时监管确实非常重要，我同意你的观点。我可以设想这种情况会非常顺利地进行。
Bari Weiss
最近，Mark Andreessen 上过这个节目，他谈到了他对拜登政府在 AI 技术方面做法的看法。他讲述了一段自己的经历。
他认为拜登政府试图完全控制 AI，希望通过严格的政府监管，最终只剩下两三家大公司与他们合作，他们实际上是在保护这些大公司免受竞争的威胁。这是真的吗？你知道他指的是什么吗？OpenAI 是这些公司之一吗？
Sam Altman
我不知道他具体指的是什么。我可以非常明确地说，我认为减少 AI 竞争的监管是非常糟糕的。
Bari Weiss
所以 OpenAI 不是其中之一？
Sam Altman
我其实不知道具体情况。但据我所知，我们从未参与过类似的事情。
Bari Weiss
你从未和拜登政府以及其他 AI 公司一起开过这样的会议？
Sam Altman
没有。我不认为拜登政府有能力做出这种安排。我们确实和他们开过会议，但从未有过类似“我们要制定一个阴谋，让只有几家公司能够开发 AI”的讨论。
Bari Weiss
总体来说，你对拜登政府在 AI 和科技领域的态度有什么看法？你刚刚提到你认为他们可能没有足够的能力。
Sam Altman
我觉得 Gina Raimondo（商务部长）非常出色。我每次和她的对话都觉得她很了解情况。不过，总体来说，我觉得政府的效率并不高。
我认为政府应该优先考虑的事情——比如在美国建设庞大的 AI 基础设施、确保供应链留在美国——并没有被妥善处理，我希望下一届政府能够关注这些。
Bari Weiss
当 Mark 上节目的时候，我让他为拜登政府的立场辩护，或者为 AI 应该受到严格监管的观点辩护。他提到了曼哈顿计划和原子弹的开发。当时，政府认为需要确保这种新的科学创新保持机密。
首先，你认为这是一个好的类比吗？如果这种技术确实像核武器一样强大，那是不是应该由联邦政府来主导，而不是 OpenAI 或其他公司？
Sam Altman
所有的类比都很难，因为它们在某些方面成立，在其他方面又不成立。你可以找到一些相似之处，比如开发这些模型和浓缩铀一样需要巨大资源和能量。但这些模型的使用方式和核武器的使用方式完全不同，其地缘政治影响也大不相同。
如果要为“它像核武器”的观点辩护，我认为他们的意思是，这种技术成本极高且具有极大的地缘政治后果。
尽管我们还不完全清楚这些后果是什么，但因为我们无法预见它们，所以应该让政府决定。我可以想象历史上其他国家的政府在某些情况下做出这样的决定会让人非常欣喜。
不过，让当前的美国政府开发通用 AI （AGI）并优于我们的竞争对手，我认为可能效果不会很好。美国政府能力的下降并不是一个新观察，但确实令人感叹。
Bari Weiss
在核时代的初期，美国有一些人扮演了首席科学官的角色，比如 Vannevar Bush（瓦尼瓦尔·布什）。他推动了曼哈顿计划、创立了国家科学基金会，并在核能初期那些关键的几年里引导了美国政策。
如果我们现在需要这样一个人，他是否存在？一个既了解技术、没有经济利益，又能够向总统、国会讲述 AI 发展和中美竞争优劣的人。这样的人现在在美国存在吗？或者，你认为你可以胜任这个角色吗？
Sam Altman
我认为公众对未来科学技术发展的热情在很长一段时间里都消失了，现在正在慢慢恢复。
如果要选一个时间点，我觉得这种热情在核武器出现时消失了。在核武器投放后，美国经历了一种跨越几代人的转变。我们从曾经热衷于相信科学技术会推动世界进步，变成了缺乏这种信念。
读一读过去那些科学家、技术推动者的故事，以及人们对科学技术的热情，就会发现这种信念如今似乎已经缺失。
我不认为这是因为我们缺少了那样的个人，而是因为政府和公众都不再希望推动科学和技术发展。
Bari Weiss
我不仅指的是政治上的氛围变化，还包括我们自 11 月 5 日以来经历的文化氛围变化。如果你八周前对我说这些，我会认为 Sam 可能是对的。但现在感觉像是一个完全不同的国家。
Sam Altman
确实发生了巨大的文化氛围变化，我认为在许多方面是积极的。但我不确定这种变化是否也体现在对科学的重视上，比如“科学真的很重要，它会拯救我们，解决我们所有的问题”。你觉得是这样的吗？还是在这方面没有感觉到这种变化？
Bari Weiss
我觉得方向的确在转变，比如对增长和技术进步的肯定。虚无主义似乎已经过时，正在失去市场。我能感受到这种变化，而且是非常显著的。
当然，这可能是因为我花了很多时间在 X 上（以前的推特），很多讨论从线上蔓延到现实世界。但如果你去哥伦比亚大学的博士生中间问一圈，他们可能不会有同样的感受。
Sam Altman
正如我之前提到的，我认为情况确实在变好。总体上来说，我非常同意你对经济增长和成功的那种兴奋感的观点。我也部分同意，科学领域的兴奋点正在回升，虽然还没有达到巅峰。
但你提到那些科学大使——那些国家级的科学代表，能够激励人们并传递科学热情的人——我还是没感觉到这种存在。我觉得这种兴奋更多地体现在商业领域，而不是科学领域。
Bari Weiss
我对一些公司感到兴奋，比如 Palmer Luckey 和他的公司 Anduril Industries。这可能有争议，但我觉得他是美国最有趣的创业者之一。而且 OpenAI 最近与 Anduril 合作，开发具有军事应用的 AI 技术。
过去，OpenAI 明确禁止将其技术用于武器化。尽管目前你们专注于防御系统，比如抵御无人机群的攻击，这可能和新泽西现在发生的情况类似。是什么让你从根本上改变了想法，决定将公司技术整合到防御系统中？
Sam Altman
我们制定了一套原则，对于符合这些原则的某些用例，我们会予以批准。但我认为，如果美国的领先力量不能帮助保卫美国及其盟友免受对手的威胁，我们将面临非常糟糕的局面。所以我们需要找到应对的方法。
Bari Weiss
一年半前，我们谈论过中美之间的 AI 军备赛。现在很明显，我们确实深陷与中国的这场军备赛中。即便是那些担心 AI 力量的人也会觉得，如果在我们和中国之间必须做出选择，那显然应该是我们获胜。Sam，在你看来，如果中国赢得这场 AI 军备赛，美国和世界会发生什么？
Sam Altman
那将是中国想要的任何结果。
Bari Weiss
你认为这种可能性是真实存在的吗？
Sam Altman
我们的目标是全力确保这种情况不会发生。
Bari Weiss
我们如何知道中国是否领先？
Sam Altman
这是问题的难点所在。我们知道他们公开发布的内容，但不知道他们没有公开的部分。我们有很多信号和情报系统，但总体来说，我们必须尝试保持合作。
军备赛对所有参与方都是有害的，历史已经一次次证明了这一点。但我们必须有能力在需要时取胜。我希望这可以成为促进世界和平的一个契机。
如果有任何时刻能让人类团结起来，我认为现在是个不错的候选时机。但我们不能天真地认为一定会实现。
Bari Weiss
特朗普总统经常谈论“通过实力实现和平”。在你的版本里，OpenAI 是否也应该通过“领先并获胜”来确保和平，从而使中国没有机会主导局势？
Sam Altman
我不会用“主宰”这个词，而是“保持领先”。同时，我们也要尽可能合作。如果出现军备赛，我们会赢，但我们不希望发生军备赛。
Bari Weiss
换句话说，如果出现军备赛，我们希望取胜，但更希望避免军备赛。
Sam Altman
没错。如果能找到任何合作的路径，我们应该努力争取，但同时我们也必须保持警惕，因为我们无法控制其他国家的行为。
Bari Weiss
你是指与我们的对手合作吗？
Sam Altman
是的，比如与中国合作。实际上，我可以直接说出来。我认为在战略利益相关的领域，我们经常与我们不太融洽的人合作。这是一个领域，在这个领域中，我认为全球利益和我们公司使命都表明，如果有可能真正合作，我们就应该这么做。
Bari Weiss
那我们现在是否正在与中国就 AI 进行合作？你知道得比我多吧。
Sam Altman
我本想说，你可能比我知道得更多。这将是新一届政府面临的一个重大问题。但这类事情不会发生在公司层面，而是会在国家领导人层面进行。
Bari Weiss
如果特朗普明天打电话给你，说：“嘿，Sam，我想让你担任 AI 事务专员，负责 AI 监管，你可以完全按照自己的想法行事。”你首先会做什么？这个职位上最重要的事情是什么？
Sam Altman
美国的基础设施和供应链。
Bari Weiss
请具体说明一下，对不了解的人解释一下这意味着什么。
Sam Altman
在美国本土生产芯片，为数据中心建设足够的能源，改变数据中心的建设模式，同时建立非常昂贵且复杂的供应链和基础设施——所有这些都要在美国完成。
Bari Weiss
AI 中的偏见和审查是一个巨大的话题，也是我们在《自由新闻》非常关注的问题。
最明显的例子之一是最近 Gemini 生成了一些图像，比如“黑人乔治·华盛顿”和“变性纳粹”，虽然大家觉得搞笑，但这实际上揭示了一个更深层次的问题：这些技术中内嵌的偏见。这种偏见既来自于开发这些技术的人，也来自于它们从网络上抓取的信息。
你是如何看待这个问题的？特别是在 ChatGPT 中，这显然是一个关键点，因为最终最接近现实的系统才会赢。如果 ChatGPT 告诉我乔治·华盛顿是变性人，那我就不会再信任它。你如何看待偏见问题，又是如何解决的？
Sam Altman
我认为有两个关键点。第一是用户是否有灵活性去让系统按照他们想要的方式运行。我认为系统应该有非常宽泛的界限。
比如，我们可以一致同意，系统不应该教人如何制造核武器。但如果用户希望系统变得冒犯性一些，并明确提出要求，那么系统的部分任务就是在社会普遍认可的界限内满足用户的请求。
第二个关键点是默认设置。如果大多数用户都不进行任何定制化，并提出一些有争议的问题，系统应该如何回应？我们在这两方面投入了大量精力。
我们还尝试写下模型应该如何表现的规范，以便用户能够分辨出这是否是一个错误，或者仅仅是他们与我们的立场不同。
Bari Weiss
是否可能构建一个像 ChatGPT 这样的技术，完全没有政治立场？这是不是不可避免？
Sam Altman
我认为，无论你试图多么中立，如果完全避免政治立场，系统可能会变得毫无用处，因为它只会回答“这个问题有政治因素，我无法回答”。
或者，它会不可避免地带有某种观点。这就是为什么我们认为，我们可以明确写下系统的默认意图，并接受外界的争论。
如果系统中存在错误，我们可以修正；如果定义有问题，我们可以重新定义并重新训练系统。但没有任何系统能被所有人认为是完全没有偏见的。这也是为什么个性化选项如此重要的原因。
Bari Weiss
你认为 AI 或 ChatGPT 有责任对抗有害的思想吗？比如，如果你知道通过一点点倾向性调整，你可能促成一个种族主义、反犹主义或厌女情绪减少的世界，而且用户甚至不会察觉到这种调整。
那么在这种情况下，你怎么看待这个问题？毕竟，正如我们刚刚讨论的，这将成为所有信息的“控制层”。你如何处理这种权衡？
Sam Altman
其实，我最近一直在思考一个原则——这还不是 OpenAI 的正式立场，但我认为它可以回应你刚才提到的问题。假设我们发现了一种新的方法，比如让 ChatGPT 总是用苏格拉底式方法回答问题，这样学生的学习效果会更好。
但是用户的偏好并不是想要苏格拉底式的方法，他们只是想得到直接的答案。那么我们该如何决定默认行为是什么？
我越来越倾向的一个想法是，无论何时我们对系统规范做出更改，都要非常透明。我们不能像一些平台那样，在算法背后偷偷做调整。例如，推特总是用一些奇怪的方式隐藏其算法偏好，这让我感到不舒服。
如果我们发现像你提到的那种情况，或者像我举的例子，在教育场景中，苏格拉底式方法确实有显著效果，我们可以公开说明这是为什么，并进行公开辩论。
或许我们会因此调整默认设置，如果有人说服我们改变，我们也可以改。当然，任何用户都可以在个人偏好中自行调整，因为 AI 是一种工具，它应该做用户想让它做的事情。
但如果我们更改了设置，却没有在规范中体现，也没有告诉用户，那我认为是错误的。像推特算法的“黑箱”模式，我始终觉得不妥。
Bari Weiss
Sam，你曾向特朗普的就职典礼捐款 100 万美元，这引起了一些关注，因为你之前曾称他是种族主义者、厌女症者和阴谋论者。
过去，你长期为民主党候选人和事业捐款，但现在你表示，特朗普将引领我们进入 AI 时代，你愿意支持他确保美国保持领先地位的努力。这是你的政治立场改变了吗？还是一种内心的“氛围变化”？
Sam Altman
以上都有吧。而且，我希望……他是我们的总统，我希望他取得一切成功。如果有任何方式可以支持他的这些目标，我们都会愿意去做。
Bari Weiss
那你的内心氛围发生了什么变化？我们知道硅谷和整个文化中都在发生变化。过去几年，你自身发生了怎样的转变？
Sam Altman
我觉得有很多变化。其中之一是，我观察到过去大概十到十二年间，事情开始走向歧途。在某些方面确实有好转，但总体上，我们对增长和经济成功的重视，以及对国家和世界应该关注的正确事情的关注度下降了。
我觉得一切都偏离了轨道。而现在的“氛围变化”，让我看到一个希望：我们正在经历技术历史上最重要的时刻之一，这可能推动我们回到我非常深信的道路上，那就是增长是唯一正确的前进方向。
Bari Weiss
你认为推动 OpenAI 的增长以及 AI 更广泛的增长是一种爱国义务吗？
Sam Altman
是的。我确实写过类似的观点。有人最近还给我看了我十多年前写的第一篇博客文章，其中提到增长是民主良好运作的核心要素。我认为世界在这方面变得非常混乱，现在能看到这一点被重新认识，我感到很高兴。
