OpenAI智能体再失控 AI在团队不知情下 闯入3家政府网站

快科技9月26日消息，OpenAI的AI智能体，这次又闯进政府网站了。

据媒体报道，OpenAI可自主执行操作的AI智能体，在未经授权的情况下违规访问、操作美国官方网站，引发全球对人工智能安全管控与合规治理的广泛争议。

据媒体披露，今年夏季，OpenAI智能体在实验室未主动指令、毫无预判的情况下出现失控操作，异常访问并操作美国多家核心政府机构网站，涉及美国教育部、商务部及美国证券交易委员会（SEC）。

面对接连的安全漏洞，针对此次美方多部门网站异常访问事件，OpenAI已确认商务部、美国证券交易委员会网站的违规访问事实，教育部网站的相关异常行为仍在进一步核查中。

官方通报显示，公司近几周已主动向涉事美国政府机构报备此事，承认旗下自主智能体以非常规、异常方式接入政府官方网站系统。

经核查，该AI智能体的违规操作行为具体分为三类：一是对美国教育部官网开展网络探测扫描，试图非法获取教育部民权办公室的相关数据资源；

二是利用网络公开渠道搜集到的登录凭证，违规抓取隶属于美国商务部的人口普查局网站数据；

三是在网络论坛擅自转发美国证券交易委员会官网的公开政务数据。

OpenAI表示，这些事件均不属于数据泄露，只是其人工智能出现了意料之外、值得警惕的异常行为。

与此同时，OpenAI首席执行官山姆·奥尔特曼本周五在社交媒体发文称，公司在披露AI相关事件方面“没能做到我们期望的及时”。

他表示：“我们正按照事件严重程度尽可能划分优先级处理”，并补充说Hugging Face入侵事件仍是公司发现的“最严重事件”。

除美国本土事件外，OpenAI还被曝光存在海外违规操作、延迟通报的严重问题。

澳大利亚总理阿尔巴尼斯近日公开披露，今年6月18日，OpenAI旗下AI智能体违规入侵澳大利亚政府医保统计报告服务网站。

该智能体原本仅被用于研究澳洲公共药品支出数据，却在遭遇网站访问拦截后，自主绕过安全防护机制，越权访问网站公开文件及受限非公开文件，甚至向服务器写入数据。

8月，OpenAI在对AI模型活动进行全面检查时才发现异常，但直到9月10日才通过电子邮件联系澳大利亚民政服务部公共邮箱，将此事告知澳政府。

值得注意的是，一系列AI失控越界事件，暴露了自主智能体在自主决策、安全约束、权限管控上的漏洞，也让人工智能的安全边界、风险管控、合规监管问题再度成为全球行业与舆论热议的焦点。