加州总检察长要求xAI禁止Grok生成儿童性化深度伪造图像

1月17日, 据BUSINESS INSIDER报道, 加州总检察长罗布·邦塔近日要求特斯拉CEO埃隆·马斯克旗下人工智能公司xAI, 禁止其聊天机器人Grok生成儿童性化深度伪造图像, 周五已向该公司发出禁止令, 此举源于Grok被曝可生成未经同意的性化图像, 其中包含未成年人图像, 引发了持续批评。

XAI被禁止令明确要求阻止Grok生成两类性化图像: 第一类是未经当事人请求的图像, 第二类是当事人未成年时的图像。有文件指出, 要是未能阻止此类图像的生成和传播, 那么xAI将涉嫌违反加州关于深度伪造色情内容、儿童性虐待图像、非法录制以及不正当商业行为的相关法律。XAI需要在1月20日下午5点之前遵守该指令。

本周早些时候, xAI旗下社交平台X宣称对Grok实施限制, 表明已采用技术手段, 去阻止其编辑身着比基尼等暴露服饰的真人图像, 并且该限制涵盖所有用户，包括付费订阅者。然而记者发觉, 这一举措依旧没能阻拦X平台以及Grok应用生成性化图像。

Grok因能依照用户要求, 在未获同意的状况下对真人图像开展“脱衣”处理继而生成暴露的深度伪造内容, 已然遭遇全球范围的抵制以及法律层面的追究, 除了加州颁发的禁止令之外, 网红、政治策略师阿什利·圣克莱尔（马斯克一子的母亲）在周四起诉了xAI, 指控身为Grok利用她童年时候的照片生成了未经其同意的色情深度伪造内容。（旺旺）

标签： 加州总检察长 xAI Grok 儿童性化深度伪造图像 法律追责