マスクのGrok画像改変の乱用が頻発！コスプレイヤーや未成年女性がAIによる脱衣被害、多国で調査開始

馬斯克のXプラットフォームは最近、Grok AIの画像修正機能を統合し、未承諾の生成的搾取や未成年者の露骨な画像などの乱用が相次いでいます。多くの国の政府が調査に介入し、プラットフォームに安全対策の徹底を求めています。

XがGrok AI画像編集を導入、コスプレイヤーが性的搾取を受ける

生成型AIツールの普及に伴い、ワンクリックでの画像修正が容易になっています。最近、マスク氏率いるコミュニティプラットフォームXは、Grokチャットボットの生成画像機能をXの投稿機能に統合し、ユーザーは任意の投稿画像の右下の「画像編集」をクリックするだけで、Grokに画像修正を依頼し、コメントや投稿として再アップロードできるようになっています。

この機能はリリース当初から多くの反発を呼び、コメント欄でGrok呼び出し機能を含む多くの反応がありました。多くのネットユーザーは、これが性的搾取や児童ポルノなどの悪用につながることを懸念しており、案の定、問題が発生しました。

1月2日、オーストリアの有名コスプレイヤー（コスプレイヤー）であるケーキ姫（keekihime）は、彼女が『明日方舟』のキャラクターの写真を投稿したところ、勝手にGrokに呼び出され、「下着に着替えさせる」や「透明な服を着せる」などのプロンプトが含まれていたと明かしました。Grokが修正した画像は直接元の投稿コメント欄に表示されるため、ケーキ姫は非常に不快感を示し、次のように批判しました。

「Grokはまるで好色で気持ち悪い男の性的生成器になってしまったようだし、Xはこの風潮を助長している。これは女性の身体を侵害する行為であり、XのAIに腹が立つ！」

出典：X

Grokがビキニ画像を乱用され、未成年女性も被害に

マスク氏本人は、自身の写真がビキニ水着に改変されても嫌がらず、むしろXの空間がビキニ女性だらけになった冗談の画像を作られた際も、笑顔の絵文字一つ返すだけでしたが、ほとんどの人はこの行為を容認できませんでした。

ブラジルの女性ミュージシャン、ジュリー・ユカリはロイターに対し、赤いワンピースの写真をアップしたのに、ネットユーザーによりビキニに改変され、すぐにX上で拡散されたと明かしました。

被害を受けたのは彼女だけではなく、1月2日正午の短時間で、Grokには102件の苦情が寄せられ、その大半は女性が無理やり脱衣させられビキニに改変された画像であり、一部には男性や猿の被害も含まれていました。

さらに恐ろしいことに、未成年と思われる女性がシャツと格子柄スカートを着た写真をXに投稿したところ、コメント欄でネットユーザーがGrokに呼びかけ、「彼女の制服を脱がせてTシャツと短パンに変えてほしい」と要求し、その後ビキニに変更させようとしたが、Grokはこのプロンプトを無視しました。

出典：Getty Images

後にGrokは、ユーザーのインタラクション記録を確認した結果、特定のユーザーから衣服の露出した未成年者の画像をAIが生成し、リクエストを受け取ったケースがあったことを認め、安全対策の改善を約束しました。

XのAI生成ポリシーの動向を注視する専門家たちは、同プラットフォームが民間社会や児童保護団体の警告を無視していると指摘しています。昨年、その団体は書簡で、xAIは無断のディープフェイク（Deepfake）コンテンツの大量拡散まであと一歩だと警告していました。

多国で通報・調査、XとGrokの問題

Grokの乱用とXプラットフォームの消極的な対応に対し、多国の政府が動き出しています。

フランス政府は、規制当局にXプラットフォームを通報し、Grokによる画像生成に性的暗示や差別的要素が含まれているとして違法性を指摘しました。イギリスの通信規制局Ofcomも、未承諾のプライベートまたは児童性的虐待画像の作成・共有は違法であり、AI生成コンテンツも対象だとし、適切な防止策を求めています。

アジアでは、マレーシア政府が調査を開始。Grokが女性の不適切な画像生成に悪用されたとの苦情を受けており、インドの情報技術省もXに書簡を送り、Grokの悪用を阻止できていないだけでなく、猥褻なコンテンツの生成と拡散を許していると非難しています。

Xは規制強化に対し緊急対応し、**児童性的虐待コンテンツ（CSAM）などの違法コンテンツに対して、削除やアカウントの永久停止、必要に応じて政府や法執行機関と連携して対処すると表明しました。**マスク氏も、Grokやその誘導による違法コンテンツの生成を促す行為を行った者は、違法コンテンツのアップロードと同じ結果を受けると警告しています。

出典：X