纽约客惊爆OpenAI大瓜:山姆·奥特曼是个“反社会骗子”
科技
科技 > 人工智能 > 正文

纽约客惊爆OpenAI大瓜:山姆·奥特曼是个“反社会骗子”

大家可能还记得,在 2023 年,OpenAI 曾经发生过一次「逼宫」事件。

前首席科学家,AI 行业响当当的大牛 Ilya Sutskever 逼迫董事会「革职」自己的联合创始人,公司的 CEO 山姆·奥特曼。

Sutskever 的努力奏效了:奥特曼的确离开了公司。然而不到一周时间里, OpenAI 整个公司一度瘫痪。董事会不得不召回奥特曼来救火。

那些站在奥特曼对立面的高层,也悉数遭到驱逐。两位当时开除奥特曼投了赞成票的董事直接退出了董事会;Sutskever 本人放弃了董事席位,等到次年春天正式宣布了离职。

这场逼宫闹剧,堪称近年来科技史上数一数二好看的大戏。而在本周,里面的真相,终于通过一篇调查报道得以曝光。

但这篇文章不止曝光了当年的真相,更揭开了奥特曼本人「撒谎成性」的行为模式、对权力的渴望,以及对于掌控 AGI(通用人工智能)定义权的执着。

《纽约客》发表了历时 18 个月制作的调查报道,首次披露 Ilya Sutskever 在 2023 年秋天汇编的 70 页内部备忘录,以及 Anthropic 联合创始人 Dario Amodei 保留多年的 200 余页私人笔记。

这些从未公开的文件指向同一个结论:奥特曼存在「一贯撒谎」的行为模式。

Sam Altman denies setting himself up for a massive payday | Fortune

AI 到底是人类历史上最棒的,还是最危险的发明?其实都只在一念之差。

谁的一念?山姆·奥特曼的一念。

那么,奥特曼到底是个什么样的人?《纽约客》这篇文章访谈了上百位关联人士,讲出了一个围绕在奥特曼的周围,由权力、谎言织就的故事。

划重点:

奥特曼的双标:

Ilya Sutskever 向董事会提交 70 页秘密文件,指控奥特曼「持续撒谎」

董事会因奥特曼「沟通不够坦诚」将其解雇,但 5 天后被迫恢复其职位

员工称这次事件为「The Blip」(《复联》式的消失与回归)

奥特曼被曝与微软、亚马逊等巨头存在双重独家协议争议

安全危机:

OpenAI 解散超级对齐团队,承诺的 20% 算力实际只给 1-2%

公司从非营利转向营利,估值或达万亿美元

与中东政权达成 500 亿美元 AI 基础设施协议

向军方开放技术,用于移民执法、监控和自主武器

权力游戏:

Altman 个人投资 400+公司,与前男友们存在复杂财务关系

被曝冻结投资竞争对手的投资者

从「有效利他主义」转向「有效加速主义」

与特朗普建立密切关系,捐赠 100 万美元就职基金

危險性不容小覷!Sam Altman 出席聽證會:AI 應像核能一樣被監管- INSIDE

最了解奥特曼的人,都认为他是骗子

Sutskever 曾经自认为是奥特曼的朋友。如果你了解过 OpenAI 当年的创立故事,可能会知道 Sutskever 是格雷格·布洛克曼 (Greg Brockman,OpenAI 总裁) 最器重的专家,在组建团队时曾多次登门拜访。

但 Sutskever 一直没有进入到奥特曼真正的信任圈子里。

2023 年,Sutskever 开始认为 AGI 可能真的会到来。但是,在 OpenAI 工作多年的经验让他坚信,不论 AGI 能否、何时实现,它都不应该由奥特曼掌控。

2023 年,Sutskever 在其他联合创始人、公司同事的帮助下,偷拍了数百份公司的内部文件,整理成数十页的备忘录,发送给了董事会成员。

备忘录列出了奥特曼的几项罪名,收到它的人事后回忆,刚一打开文件就吓坏了:罪名的第一项,就是「撒谎成性」。

图片

董事会宣布开除奥特曼的时候,奥特曼本人正在拉斯维加斯现场观看 F1 比赛。开除的消息,是通过视频电话传达的。董事会宣称,奥特曼 「在沟通中不够坦诚」——这个描述,是给面子的说法。如果不给面子,就是说他是个骗子。

无独有偶,曾经在 OpenAI 担任高管,现在是 OpenAI 最大对手的 Anthropic 创始人达里奥·阿莫戴 (Dario Amodei),也认为奥特曼是个大骗子。

在从 OpenAI 离职之前,阿莫戴整理过一份超过 200 页「小黑本」,里面记得全部都是奥特曼画过的饼、食过的言。

据《纽约客》报道,这个小黑本里有一句话:奥特曼说过的几乎肯定都是 bullshit.

阿莫戴还写道:OpenAI 最大的问题,就是山姆本人。

Anthropic 的出走,和奥特曼的谎言

那么,奥特曼撒过什么谎,画过什么饼呢?

《纽约客》文章举了一个很关键的例子:在 2023 年,OpenAI 曾经宣布成立「超级对齐」(superalignment) 团队。

当时在博客文章中,OpenAI 宣称将会投入公司 20% 的算力去做这方面的工作,由 Sutskever 和 Jan Leike 等人主导。

然而实际情况是,这个所谓的超级对齐团队只拿到了公司算力总额的 1-2% 左右,而且用的是最过时的芯片和算力集群。

Leike 找到时任公司 CTO 的米拉·穆拉提 (Mira Murati) 抱怨,她却让他们别再提了,说「这个承诺本来就不现实。」

(在 Sutskever 的逼宫事件中,穆拉提也出过力,为他提供了很多资料。穆拉提也从 OpenAI 离职,创办了自己的研究型公司 Thinking Machines Lab。)

其实,有这么一段前情提要,对于你理解这个事情可能很有帮助:

Anthropic 是在 2021 年成立的,创始团队很多都来自 OpenAI。达里奥·阿莫戴本人在 OpenAI 很大一部分工作就是安全/对齐,但是长期得不到足够的研究支持,于是才出来创办了 Anthropic。

这些过往历史,我在之前硅星人的一篇文章里提到过。

所以你可以这么理解:在人工智能的安全/对齐这个重要研究方向上,OpenAI 一直是摇摆不定的,经历过重视-忽略-重视-忽略的循环。2023 年 OpenAI 搞的超级对齐团队,其实只是这个循环走到了上行周期而已。

考虑到自从 Anthropic 成立以来, OpenAI 流失人才严重,搞一个所谓的超级对齐团队,用意可能只是挽留人才而已。

The messy, secretive reality behind OpenAI's bid to save the world | MIT  Technology Review

布洛克曼、Sustskever、阿莫戴

2024 年,超级对齐团队解散了。当时,Sutskever 已经因为逼宫奥特曼失败而放弃了董事会席位,无意继续留在公司。而另一位负责人 Jan Leike 则加入了 Anthropic。

Leike 当时写道,「过去几年,安全文化和流程让位于炫目的产品」,自己对 OpenAI 的领导层「逐渐失去了信任。」

讨好型+反社会型人格

有这么一种人,初见过后你会觉得,这个人怎么这么懂我,他真的站在我这边——但是过了一段时间后你会发现,他承诺的东西一件都没有实现。

这种落差,甚至会让你怀疑是不是你理解错他了。可能他日程太忙?或许他真有苦衷?但他当时对待你那么真诚,也不像是在演戏……

在很多身边人看来,奥特曼就是这种人。

《纽约客》采访的其中一位前 OpenAI 董事会成员表示,在奥特曼的身上,同时存在两种很难共存的特质——讨好型人格,和反社会型人格。

在此人的描述中,奥特曼强烈渴望被所有人喜欢、爱戴,同时对于欺骗他人所带来的后果,却有一种反社会式的漠然。

普通人言行不一,通常是因为懒惰、压力、或者短视。但如果一个人在承诺的瞬间是真诚的,事后却对打破承诺毫无内疚——那么真实的情况,可能是他从来不觉得承诺是一种约束,只是一种当下有用的工具。

OpenAI 前首席人力资源官 Diane Yoon 认为,奥特曼不是一个马基雅维利式的恶棍,而是真的相信自己说的话:他太沉浸在自我的信念当中,他做的事情在现实世界里是没有逻辑,因为他似乎活在自我构建的世界里。

(注:马基雅维利主义主要表现于利用他人、漠视道德、缺乏同理心、注重谋算自身利益的人格特征)

讨好型+反社会,这两种人格合在一起,能够解释奥特曼为什么受人追捧,却又难免众叛亲离。

短时间内,他可以说服任何人,包括曾经投票驱逐他的董事会和对他不信任的公司员工。然而那些最接近奥特曼的人,包括 Sutskever、阿莫戴、原 YC 合伙人(奥特曼曾担任 YC CEO),最终都会对他失去信任。

「他的说服能力之强,令人难以置信,」一位曾与奥特曼合作过的高管表示,「这种感觉就像绝地武士的原力一样。」

Sam Altman: Meet the Tech Innovator at the Heart of OpenAI

这种人格的组合,在别的行业造成的破坏是有限的。比方说,一个这样的商人,会让投资人亏钱;一个这样的政客,会造成更大的影响,但至少有其它权力去制衡他。

但掌管一家可能在未来几年内影响全球权力结构的 AI 公司,情况完全不一样。今时今日,内外部已经很少有人能够制约奥特曼。

Sutskever 在提交给董事会的备忘录里写了这样的话,大意是:

任何致力于构建这种改变文明的技术的人,将承担着前所未有的责任……但是,最终处于这些位置的人,往往是对权力感兴趣的人。

《纽约客》文章报道,在逼宫事件期间,董事会逼问奥特曼承认自己撒谎成性的事实。他反复说的一句话是:「我无法改变我的性格。」

奥特曼否认自己说过这句话。

但如果他真的说过,这可能是整件事里他说过的最诚实的话。

说在最后:

奥特曼的人格缺陷,恐怕不止这讨好型+反社会这两条。在最新的法庭文件中,他的妹妹指控他曾在未成年期间,对自己进行长达数年的性侵。

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载