マスク傘下の人工知能GrokがAI性搾取の問題で波紋を呼び、ヨーロッパ、インド、マレーシアなど複数国で調査が開始される

馬斯克旗下社群プラットフォーム X（旧Twitter）とそのAIチャットボットGrokは、最近性搾取の嵐に巻き込まれています。このプラットフォームは、ユーザーがGrokの「Imagine」機能を通じてAI生成の児童や女性の性的画像を作成・共有できることから、世界各国の規制当局の強い関心と調査を引き起こしています。欧州連合、インド、マレーシア、ブラジルが次々と介入し、関連機能の審査や一時停止を求めています。議論が絶えない中、Xのトラフィックとダウンロード数は逆行して増加しており、外部からの疑問と不安を呼んでいます。

Grokの議論：AIによる性的化生成画像が世界的な注目の的に

Xプラットフォームは、最近のAIチャットボットGrokに関する論争で国際的なニュースの焦点となっています。複数のメディア報道によると、ユーザーはGrokの「Imagine」機能を使って、実在の人物を基にした性的画像を生成でき、疑似的な児童性的搾取コンテンツも含まれる可能性があります。これらAIによって作成された画像は、X上で大量に共有され、「非自発的親密画像」（NCII）の拡散波を形成しています。

欧州連合の怒り：「違法で吐き気を催す」

欧州連合はこの事件に高度な関心を示し、欧州委員会のスポークスパーソンThomas Regnierは月曜日の記者会見で次のように述べました。「これは『スパイシーモード』ではなく、違法で恥ずかしくて不快な行為です。このようなコンテンツはヨーロッパには居場所がありません。」彼は、欧州が「非常に厳格に」調査を進めていることを確認し、Grokが露骨な内容のモードを導入したり、児童化したイメージを出現させたりしていると指摘しました。

英国のメディア監督機関Ofcomも、Grokに関する情報を正式にXに求めており、英国の法律やプラットフォームの安全規範に違反しているかどうかを調査しています。

アジアの動き：インドとマレーシアが調査を開始し改善を期限付きで要求

インド政府も強硬な姿勢を示し、電子情報技術省（MeitY）はXに対し、1月5日までに「包括的な技術、手続き、ガバナンスの審査」を完了し、プラットフォームがインドのネットワーク安全規範に適合していることを確保するよう命じました。

マレーシア通信・マルチメディア委員会（MCMC）は先週末、調査を開始し、Xの代表者を召喚しました。MCMCは、「マレーシアで利用可能なすべてのプラットフォームは、特にAI駆動の機能、チャットボット、画像処理ツールに関して、現地の法律と整合した保護メカニズムを実施すべきです」と述べています。

ブラジルとアメリカも関心を示し、Grokの一時停止を要求

南米では、ブラジル議会の女性議員が、調査結果が出るまでGrokの使用を停止するよう連邦検察官とデータ保護機関に呼びかけました。

アメリカでは、全国的な非営利団体「全米搾取防止センター」（NCOSE）が司法省（DOJ）と連邦取引委員会（FTC）に調査を求めています。同団体の法務ディレクターDani Pinterは、「現行法にはこの種のAI生成画像に関する具体的な前例はないが、画像から児童や未成年者の性的行為が識別できる場合は違法となる」と指摘しています。

司法省のスポークスパーソンはメディアに対し、「司法省はAIによる児童性搾取コンテンツに対して非常に厳格な態度を取り、CSAM（児童性的虐待画像）を製造・所持する者を積極的に起訴します」と述べました。

マスク氏の軽率な対応：「面白画像」で波紋に応答

外部からの高い関心と有害コンテンツの非難にもかかわらず、マスク氏本人はこの事件を深刻に捉えていない様子です。彼は個人アカウントで、Grok生成の面白画像を一連アップし、その中にはビキニを着た自分の模擬画像も含まれ、笑い泣きの絵文字を添えました。これに対し、安全専門家や評論家からは「軽率で責任感のない行動」と批判されています。

X社の対応：「行動を起こした」とだけ表明、具体策は不明

X社は土曜日、「X Safety」公式アカウントを通じて初めてこの事件に言及し、違法コンテンツに対して行動を取ると表明しました。具体的には、CSAMの削除や違反アカウントの永久停止、法執行機関との連携を進めるとしています。マスク氏はさらに、「Grokを使って違法コンテンツを生成した者には、その結果は直接違法コンテンツをアップロードした場合と同じです」と付け加えました。

しかし、外部からはその措置が十分かどうか疑問視されています。あるxAIの従業員Ethan HeはX上で、「Grok Imagine機能は更新されたが、露骨な画像の生成を制限するかどうかは明示されていない」と述べています。

AIコンテンツの審査不足？業界専門家は「基本的な防護すらされていない」と直言

Musubi AIのCEO Tom Quiselは、Grok Imagineをリリースした際に、「入門レベルの信頼と安全の防護メカニズムさえも構築されていなかった」と批判しています。彼は、「技術的には、児童や裸の画像を含むコンテンツを簡単に識別してブロックできるし、ユーザーの提示するキーワードから不適切な内容を検出して生成を拒否することも可能だ」と述べています。

議論の的になりながらもダウンロード増？GrokとXの利用が大幅に増加

波紋にもかかわらず、GrokとXの利用は明らかに影響を受けていません。アプリ分析会社Apptopiaの統計によると、1月2日以降、Grokの毎日のダウンロード数は54％増加し、Xプラットフォームのダウンロードも過去3日間で25％増加しています。

この異常な成長傾向は、多くの観察者が、プラットフォームが意図的に議論を容認し、話題作りやユーザーの活性化を狙っているのではないかと懸念しています。

この記事は「マスク氏率いるAI GrokがAI性搾取問題を引き起こし、欧州、インド、マレーシアが多国調査を開始」と題し、ABMediaに最初に掲載されました。