马斯克没能拦住，美国首个“AI脱衣”应用禁令正式生效

凤凰网科技讯 8月2日，据NBC News报道，美国联邦法院拒绝了马斯克旗下AI公司xAI提出的紧急申请，允许美国首个针对AI“脱衣”（Nudification）技术的禁令按计划于8月1日在明尼苏达州正式生效。这意味着，在相关诉讼继续审理期间，该州法律仍将继续执行。

美国明尼苏达州联邦地区法院法官多诺万·弗兰克（Donovan Frank）裁定，xAI未能证明法律立即生效会造成无法弥补的损害，因此驳回其要求暂缓实施法律的请求。法官指出，xAI直到7月29日才提起诉讼，而距离州长签署法案已经过去近三个月，距离法律生效也仅剩三天，这一时间安排表明所谓“紧急损害”并不成立。

不过，此次裁定并不意味着案件已经结束。法院已安排于8月19日举行听证会，决定是否签发初步禁令，在案件最终裁决前暂停执行该法律。

根据这项由明尼苏达州州长蒂姆·沃尔兹（Tim Walz）于今年5月签署的法律，任何网站、应用或软件不得向用户提供AI“脱衣”功能，同时也禁止宣传此类能力。法律将“AI脱衣”定义为：利用AI生成或修改图像、视频，使其中可识别人物出现原始画面不存在的裸露私密部位，且生成内容真实到足以令普通人相信其真实性。

违反该法律的企业或平台，每次违法访问、下载或使用最高可面临50万美元民事罚款，此外还可能承担精神损害赔偿、惩罚性赔偿、律师费等民事责任。该法律不涉及刑事处罚，受害者也可自行提起诉讼。

xAI在诉状中并未反对打击AI“脱衣”应用的目标，但认为该法律范围过于宽泛，侵犯了美国宪法第一修正案赋予的言论自由权利。公司称，即便平台已经部署了先进技术限制违规内容，甚至相关图像获得了当事人同意、从未传播，仍可能承担法律责任。此外，法律也可能覆盖艺术、教育、科研、政治讽刺等合法表达。

xAI还表示，旗下Grok产品已经明确禁止用户未经他人同意生成裸体或性化图像。不过，Grok的AI图像生成工具此前曾因能够生成未经授权的色情深度伪造（Deepfake）内容而持续受到外界批评。今年初，苹果曾要求xAI整改相关功能，否则将把Grok下架App Store。此后，多地监管机构也对相关功能展开调查。

此次诉讼也引发美国言论自由组织关注。美国公民自由联盟（ACLU）明尼苏达分会表示，虽然支持打击未经同意生成的AI裸露内容，但认为最终通过的法律未能在保护受害者权益与保障宪法言论自由之间取得平衡。另一家言论自由机构FIRE也认为，该法律可能误伤政治恶搞、讽刺图片等正常表达，例如涉及公众人物的AI恶搞图片，也可能落入法律规制范围。

目前，除明尼苏达州外，美国多个地区也在加强对AI深度伪造技术的监管。今年7月，旧金山市检察官已要求苹果和谷歌将相关AI“脱衣”应用从应用商店中移除。(作者/于雷)

更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。