人事难搞！4年计划1年就拆伙OpenAI解散超对齐团队

知情人士周五 (17 日) 透露，在原定 4 年期的“超对齐计划 (Superalignment)”两位关键团队领导人离职后，OpenAI 解散了这个专注于人工智能长期风险的团队，该团队组建仅一年，部分成员将被重新分配至公司内其他团队，其余则已全数离职。

OpenAI 公司证实，该公司不再将所谓的“超对齐”团队作为一个独立的实体，而是将该团队更深入地整合到其研究工作中，以帮助公司实现其安全目标。

去年 7 月 OpenAI 宣布成立“超对齐团队”，其策略是“以 AI 防堵 AI”，打造一个拥有人类智慧水准的自动对齐 AI，然后就能够透过大量的算力进行自动对齐，确保 AI 与人类的意图与利益是齐平，以免遭 AI 取代。

该团队由 OpenAI 的共同创办人兼首席科学家 Ilya Sutskever，以及本就负责 AI 对齐的机器学习专家 Jan Leike 两人领军，但几天前这两位领导人宣布离职。

上个月，超对齐团队两名研究人员因泄漏公司机密而被解雇，另一名成员也在 2 月离开。 到了本周二，Ilya 在社群平台 X 上宣布，他将在近十年后离开公司，相信在执行长 Sam Altman 等人的领导下，能够打造出既安全又有益的通用人工智慧 。 Ilya 先前曾与 Sam Altman 就 AI 的发展速度发生冲突。

随后，超级对齐团队另一位负责人 Jan Leike 也宣布离职，知情人士声称，对 Leike 来说，Ilya 的退出导致分歧严重到了无法调和的地步。

Leike 周五发布声明称，超对齐团队一直在努力争取资源。“过去的几个月里，我的团队一直在逆风航行。有时连算力资源都难取得，而且越来越难以完成这项关键的研究。”当初 OpenAI 计划 4 年内将其 20% 的运算能力投入到该计划。

他称离职是因为自己与 OpenAI 在公司的“核心优先事项”上存在一系列分歧，他认为公司不够关注 AI 相关的安全措施。

OpenAI 周二宣布，公司联合创始人 JohnSchulman 将成为未来对齐工作的科学负责人。另外，OpenAI 在一篇部落格文章中表示，已任命研究总监 Jakub Pachocki 接替 Ilya 担任首席科学家。