1月12日, 环球网有相关报道称, 马斯克旗下人工智能企业xAI所开发的聊天机器人格罗克（Grok）, 由于平台监管方面存在缺失状况, 被大量且广泛地滥用于生成网络色情图片, 甚至还涉及到儿童色情领域范围, 进而遭到多个国家的批评以及抵制行为。目前, 印尼与马来西亚已经正式实施对Grok的封禁举措, 欧盟、英国等则启动深度调查工作并且发出封禁警告。
Grok身为xAI的关键产品, 被安置于马斯克所拥有的X平台（先前为推特）之内, 用户能够直接去调用它的图像编辑功能。最近这段时间, X平台出现了大规模的滥用歪风乱象, 一部分用户借助Grok生成真实人物的虚假性暴露内容, 受害者包含数百名成年女性以及未成年人, 这些违规的内容在平台上毫无约束地肆意散布传播, 从而引发多个国家的谴责。
当地时间10日, 印度尼西亚通信和数字事务部长宣称, 鉴于担忧人工智能会产出色情内容, 该国暂且封禁了美国企业家马斯克旗下人工智能企业xAI的聊天机器人Grok, 该国成为首个拒绝访问该人工智能工具的国家。紧接着, 马来西亚通讯与多媒体委员会于1月11日宣告暂时限制Grok访问, 指明其被再三滥用于生成“色情、不雅以及未经同意的篡改图像”。
另外, 有3名美国的民主党参议员, 在1月9日这天,要求苹果以及谷歌开云app官方最新下载, 把X和Grok应用下架, 他们觉得, 在马斯克没能做到阻止平台传播那些未经同意的色情内容, 还有儿童性虐待图像之前, 那两款应用不应该继续留在应用商店里。
当下, 欧盟委员会已责令X平台留存全部Grok相关内部数据至2026年末, 用以给潜在法律行动保留证据。英国科技大臣莉兹·肯德尔发出警示, 要是X平台不遵循英国法律, 或许会面临“境内访问服务被阻断”的惩处, 法国巴黎检方证实, 会针对Grok涉嫌生成非法色情内容展开调查。
2025年8月, xAI为Grok推出图像生成功能Grok Imagine, 这点要注意, 支持用户借助文字提示或者上传图片编辑去生成图像以及短视频,而且开云app在线入口, 还专门设置了 “火辣模式”, 此模式被外界怀疑从本质上是为 “擦边色情” 而定制, 并且大幅放宽了内容生成的尺度。
压力面前, X平台宣称会针对非法内容施行“删除资料、永久封禁账号”这般的举措, 并且会与执法机构予以配合 ；与此同时, xAI把Grok的图像生成功能限定为仅仅朝着付费用户开展开放许可,意图凭借抬升使用门槛来削减滥用状况。马斯克他自己于社交媒体之上表明开云app官方最新下载地址, 任何运用Grok去制作非法内容的人, 将会遭遇跟上传非法内容一样的法律后果。
在业内人士看来, 此次事件或许会促使各个国家加快对于AI监管方面的立法进程, 特别是针对生成式AI的内容审核环节, 以及用户权益保护等方面的规范。
还木有评论哦，快来抢沙发吧~