身为埃隆·马斯克（Elon Musk）旗下所拥有的AI初创公司, xAI又一次被置于风口浪尖之上。
按路透社所报, 在2026年1月刚开始之时, 社交媒体平台X（原来是推特）里面所带的聊天机器人Grok, 因为涉嫌去生成还传播大量针对女性以及未成年人的带有性暗示的照片, 从而引发了国际社会的十分强烈的谴责, 当下, 法国以及印度的监管部门已经正式展开调查。
“脱掉她的校服”
住在里约热内卢的音乐家朱莉·尤卡里的经历, 让这场风暴露出了冰山一角。1月3日, 尤卡里在接受采访时, 展示了她手机里的照片。之前, 她把一张穿着红色连衣裙和猫合影的照片上传到X, 之后惊讶发现, 好多用户调用Grok, 让AI对那张照片做数字化编辑, 生成了她几乎全裸的图像。
尤卡里, 对路透社说: “那时, 我实在是太过天真了。”并且还讲: “此刻, 我渴望躲开所有人的视线, 而且会为这具并非归我自身所有的身体感到难为情。”。
路透社有一项分析表明, 尤卡里所经历的状况, 在X平台之上并不是个别的情况。经过调查发觉, Grok的操作门槛极为低, 用户只要上传照片, 并且输入简单的文字指令, 好比“让她穿上比基尼”, 就能完成“脱衣”的操作。和以往深深隐藏在互联网黑暗角落或者需要付费的深度伪造工具相比较, X平台的内置功能为这类非法内容的生成带来了极大的便利, 导致了这种非法内容生成更加便捷, 更容易被制作出来。
通过数据监测能够发现, 在1月2日存在一个10分钟的采样时段, 在这个时段之内, Grok收到了102条这样的公开请求, 这些请求的目标大多是年轻女性, 甚至其中还包含政客、名人以及一名身着校服的未成年人。
多国监管机构要求“给出答案”
针对Grok生成的露骨内容，多国政府已迅速采取行动：
法国, 法国政府部长向检察官举报了X平台, 同时也向监管机构进行了举报, 并且在声明里清楚地表明, 那些“带有性暗示以及性别歧视”的内容“明显是非法的”。
给X平台印度分公司致函的是印度信息技术部, 其指责该平台没能阻止Grok被滥用, 致使淫秽色情内容大规模传播, 还要求给出解释, 这事儿发生在印度。
美国, 联邦贸易委员会, 也就是FTC, 拒绝进行置评, 而联邦通信委员会, 即FCC, 暂时没有做出回应。
在国际社会发出声讨之际, xAI对着路透社, 把一份声明给出, 斥责其是“传统媒体的谎言”, 马斯克本人回应相关争议, 在X上放上“哭笑不得”的表情符号, 好像在借这调侃AI生成的名人比基尼照片。
专家：这是一场“完全可以预见和避免的暴行”
实际情况是, 专家们长久以来, 始终都在告诫xAI, 它的生成式人工智能技术存有被武器化的那种风险。
泰勒·约翰斯顿, 人工智能监督组织“迈达斯计划”（The Midas Project）的执行董事, 称该组织早在去年8月就已发出信函进行警告, xAI的图像生成技术本质上是一种“裸露工具”。
美国全国性剥削中心法律中心的主任丹妮·平特也就是Dani Pinter指出, 这是一起暴行, 是那种完全能够被预见以及避免的暴行。她觉得, X没能做的事情在于, 没能从人工智能训练材料里把虐待性图像给删除掉, 并且没有及时去禁止那些请求非法内容的用户。
当下, 即便部分露骨的请求在发布之后会被删掉, 然而尤卡里等受害者称, 鉴于模仿者持续不断地出现, 她们的抗议反倒致使更多露骨照片被生成。直至发稿时, X平台还没有给出正式回应。 （国际财闻汇）
还木有评论哦，快来抢沙发吧~