OpenAI解散AGI团队

文 | 田哲

编辑 | 苏建勋

OpenAI再次传出新的变动。

近日外媒报道，OpenAI正在解散其“AGI Readiness”团队，团队成员将分配至内部其它团队。

AGI全称为Artificial general intelligence，即通用人工智能，它具备自主的感知、认知、决策、学习、执行和社会协作等能力，且符合人类情感、伦理与道德观念。AGI Readiness团队负责向OpenAI提供AGI发展的政策建议，并进行安全监督。

AGI Readiness团队解散的原因是其负责人离职。本周三，AGI Readiness负责人Miles Brundage宣布离职，计划在OpenAI之外继续从事该领域研究工作，并希望减少偏见。他表示，他已在OpenAI完成所有工作，在外部工作将产生更大的影响。

Miles Brundage

在他看来，OpenAI及世界还未做好准备迎接AGI的到来，因此他计划创建自己的非营利组织，专注于人工智能政策研究和宣传。

相比人工智能产品不断迭代增加，OpenAI对于人工智能的安全建设相对迟缓。2023年7月，成立8年的Open.AI才组建“超级对齐”团队，目标是用20%的算力，在未来4年内解决控制超级智能AI的核心技术挑战。

然而成立不到一年，“超级对齐”团队随着OpenAI 联合创始人、首席科学家Ilya Sutskever离职而解散。

Ilya Sutskever在社交媒体解释了离职原因，他表示：“制造比人类更聪明的机器本身就是一项危险的事业。OpenAI代表全人类肩负着巨大的责任。但在过去几年里，安全文化和流程已经让位于闪亮的产品。”

同一时期离职的“超级对齐”团队联合负责人Jan Leike，也提到类似意见。他认为，应该把更多的带宽用于为下一代模型做好准备，包括安全性、监控、准备、对抗鲁棒性、一致性、保密性、社会影响等，但是OpenAI与他的想法并不一致，团队所需资源不够，研究进展缓慢。

OpenAI是世界上估值最高的人工智能初创公司之一，今年10月，OpenAI获得史上最大一轮融资，融资金额高达66亿美元，这使其估值飙升至1570亿美元。

OpenAI备受资本市场重视的原因，除了其具备领先的生成式AI技术之外，也出于其背后庞大的市场闺蜜，据预计，这一市场未来十年内将产生超万亿美元收入。

一份媒体获得的OpenAI财务数据文件显示，OpenAI的8月收入同比去年增长3倍，预计今年ChatGPT将产生27亿美元收入，去年这一数字为7亿美元。

在商业之路狂奔的OpenAI，似乎已将人工智能安全抛之脑后，而OpenAI 2015年成立时的目标却是，开发AI技术以“造福全人类，不受财务回报需求的限制。