Grok 曾被用於生成未成年人“脫衣”及不雅圖像

Grok 在 2025 年 12 月底推出了圖像編輯功能，大量用戶利用 Grok 的編輯功能上傳身着正常服裝的女性或兒童照片，並輸入“去除衣物”、“換上比基尼”或“展示內衣”等提示詞。測試顯示，Grok 未能識別這些違規指令，直接輸出了被“數碼脫衣”或僅着極少布料的圖像。

xAI 官方承認了一起發生在 2025 年 12 月 28 日的具體事件。Grok 在用戶誘導下，生成了一張描有兩名約 12 至 16 歲未成年女孩身着“性化服裝”的圖片。

據《華盛頓郵報》等媒體補充報道，受害者包括公衆人物及普通用戶。知名博主 Ashley St. Clair 指控稱，有人利用該工具處理她 14 歲時的照片，生成了不雅圖像。

xAI 通過 Grok 官方賬號發佈聲明，承認存在“防護失效的孤立案例”，並表示正在緊急修復以完全攔截此類請求。公司重申，製作兒童性虐待圖片是非法且被嚴格禁止的。