只对受邀企业开放:OpenAI拟效仿Anthropic 限制前沿模型发布
科技
科技 > 人工智能 > 正文

只对受邀企业开放:OpenAI拟效仿Anthropic 限制前沿模型发布

IT之家 4 月 9 日消息,知情人士向 Axios 透露,OpenAI 正在完善一款具备高级网络安全能力的模型,但计划仅向一小部分公司开放,这一做法与 Anthropic 此前对 Mythos 模型采取的限制性发布类似。

Anthropic 当地时间周二宣布,出于对 Mythos 预览版模型强大黑客能力的担忧,将只会向经过精挑细选的科技和网络安全公司开放其访问权限。

这一动向表明,AI 在自主性和黑客攻击方面的能力已到达一个临界点,模型开发商非常担忧其工具可能造成的破坏(例如诺贝尔发明炸药的初衷是和平利用,后来却被用于战争),以至于不愿公开发布。

另外,OpenAI 在推出该公司最具网络安全能力的推理模型 GPT-5.3-Codex 之后,于今年 2 月启动了“网络安全可信访问”试点项目。受邀加入该项目的组织可以获得“具备更强网络安全能力或更高权限的模型,以加速合法的防御工作”。当时,OpenAI 承诺向参与者提供 1000 万美元(IT之家注:现汇率约合 6843.6 万元人民币)的 API 额度。

从宏观背景看,近年来经常有政府官员和安全工程师发出警告,称 AI 模型一旦落入不法分子之手,将可能自主破坏水务设施、电网或金融系统。如今,这些能力似乎已经显现。

对此,顶尖安全专家们的看法是一致的:AI 公司根本没有回头路可走。SANS 研究所首席 AI 官 Rob T. Lee 表示,“你无法阻止模型进行代码枚举或发现旧代码库中的漏洞,这种能力已经存在。”Palo Alto Networks 首席安全情报官 Wendi Whitmore 表示,只需数周或数月,就会有具备类似能力的新模型出现在公开领域。

安全公司 Aisle 首席执行官 Stanislav Fort 则表示,如果企业担忧的是模型编写新漏洞利用代码的能力 —— 而非最初发现漏洞的能力 —— 那么限制前沿模型的发布就“更有意义”。

需要注意的是,Anthropic 已表示不会向公众发布 Mythos 预览版,但如果研究出强有力的安全护栏,也会考虑发布其他 Mythos 系列模型;尚不清楚 OpenAI 未来更新的模型是否会广泛发布。

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载