Grok 曾被用于生成未成年人“脱衣”及不雅图像

Grok 在 2025 年 12 月底推出了图像编辑功能，大量用户利用 Grok 的编辑功能上传身着正常服装的女性或儿童照片，并输入“去除衣物”、“换上比基尼”或“展示内衣”等提示词。测试显示，Grok 未能识别这些违规指令，直接输出了被“数码脱衣”或仅着极少布料的图像。

xAI 官方承认了一起发生在 2025 年 12 月 28 日的具体事件。Grok 在用户诱导下，生成了一张描有两名约 12 至 16 岁未成年女孩身着“性化服装”的图片。

据《华盛顿邮报》等媒体补充报道，受害者包括公众人物及普通用户。知名博主 Ashley St. Clair 指控称，有人利用该工具处理她 14 岁时的照片，生成了不雅图像。

xAI 通过 Grok 官方账号发布声明，承认存在“防护失效的孤立案例”，并表示正在紧急修复以完全拦截此类请求。公司重申，制作儿童性虐待图片是非法且被严格禁止的。