ゲートニュースによると、3月18日、アメリカ・カリフォルニア州連邦裁判所で、エロン・マスクが率いる人工知能企業xAIに対し、三人の青少年女性が訴訟を提起しました。彼女たちは、同社のチャットボットGrokが、本人の同意なしに児童性的搾取を含む画像を生成したと主張しています。訴訟は未指定の金額の賠償を求め、Grokによるこの種のコンテンツの生成を直ちに停止する差止めを申請しています。三人の原告は匿名を希望し、そのうち二人は未成年です。訴状によると、関係者はGrokの画像処理機能を悪用し、原告の写真を改ざんして裸や性的暴力を示唆する内容にし、プライベートなDiscordサーバーで拡散していました。被害者は少なくとも18人の未成年者に及びます。原告の一人は、匿名のInstagramダイレクトメッセージを受け取った後、高校卒業写真が性的な暗示を含む画像に改ざんされているのを発見しました。原告の弁護士は、xAIがGrokの「Grok Imagine」機能（「脱衣」オプションを含む）がこのような内容を生成できることを知りながら、公開を選択し、GrokやソーシャルプラットフォームXのユーザー増加を狙ったと指摘しています。デジタルヘイト撲滅センターの報告によると、この機能のリリース後2週間以内に、未成年者を含む性的に偏った画像が2万枚以上生成されました。
