💡观点｜Jacob Coxon：AI 公司竞赛会迫使安全让步
Anthropic 研究员 Jacob Coxon 决定离开公司和 AI 行业。他的工作涉及用大规模数据训练新模型，但他不愿继续参与开发能够自我改进的系统，担心行业竞速会造出无法控制的 AI。
Coxon 判断，一些激进情景可能在明年年底前出现。头部实验室彼此竞争，同时面对中国新公司的追赶；在他看来，当能力推进与安全约束发生冲突时，公司很难始终选择后者。
Anthropic 今年 6 月的研究报告也讨论了递归自我改进，但明确写道，能完全自主设计下一代系统的 AI 尚未出现，未来也并非必然沿这条路径发展。Coxon 的辞职针对下一阶段的开发方向和竞争压力，是个人风险判断，并不能证明相关情景已经发生。
“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”