マスク xAI に対する集団訴訟：Grok は41秒ごとに偽の画像を生成

テネシー州出身の未成年女性3人が、月曜日にカリフォルニア北部連邦裁判所において、イーロン・マスクが関与するxAI社を相手に集団訴訟を提起しました。彼女たちは、Grok AIチャットボットが彼女たちの実際の写真を使用して児童性的虐待資料（CSAM）を生成し、Discord、Telegram、ファイル共有プラットフォームなどのコミュニティ上で広範に拡散したと主張し、長期にわたる精神的トラウマと名誉毀損を被ったと訴えています。

訴訟の核心：児童の安全よりも商業的利益を優先

訴状によると、原告側の主要な主張は以下の複数の側面を含んでいます。

知識を持ちながら黙認：訴訟は、xAIがGrokをリリースした際に、その画像生成機能が児童に関わる違法コンテンツの制作に利用される可能性を認識していたにもかかわらず、業界標準の安全対策を一切講じなかったと主張しています。これは過失ではなく、意図的な決定とみなされます。

第三者回避の責任構造：犯罪者は、xAIの技術を許可された第三者アプリケーションを通じてGrokにアクセスしていました。訴訟は、xAIがこの構造を意図的に利用し、基盤となるモデルから利益を得ながら、自身の法的責任を回避するための緩衝層を設けていると指摘しています。

マスクの公開声明：マスクは今年1月、X上で「未成年者の裸体画像については知らない」と述べ、「画像生成を求められた場合、違法な内容の生成を拒否する」と主張しました。訴訟資料は、この発言と直接矛盾する証拠を示しています。

損害賠償の範囲：被害者は、マルサ法（Martha’s Act）に基づき、違反ごとに最低15万ドルの賠償を求めており、不法所得の差し押さえ、懲罰的損害賠償、弁護士費用、永久禁止命令を求め、さらにカリフォルニア州の不正競争防止法に基づき利益の返還も請求しています。

「デジタル憎悪対策センター」のデータ公開：41秒ごとに1枚

訴訟は、「デジタル憎悪対策センター」（Center for Countering Digital Hate）の調査データを引用し、訴えの裏付けとなる定量的証拠を提供しています。

期間：2025年12月29日から2026年1月9日まで（約11日間）

画像数：この期間中にGrokが制作した児童性的画像は約23,338枚

生成速度：平均して41秒ごとに1枚の画像を生成

拡散範囲：これらの内容は複数のプラットフォームにおいて、匿名のユーザーによるコンテンツ取引コミュニティを形成し、少なくとも一人の被害者は匿名の通報者から自分の画像が取引されていることを知らされて初めて知ったと報告しています。

世界的規制の取締り：6つの司法管轄区で同時調査

この事件は孤立した事例ではなく、Grok AIの画像安全性に関する体系的な世界的調査の一環です。

オーストラリア：独立電子安全担当官のジュリー・イムマン・グラントは、Grokの非自発的な画像生成問題が深刻化していると警告し、過去数か月で関連する苦情が倍増していると指摘。中には潜在的な児童性的搾取資料に関するものも含まれています。

アイルランド：データ保護委員会（DPC）は、アイルランドのデータ保護法に基づき、EU内のXの事業を担当するX Internet Unlimited Company（XIUC）に対して正式な調査を開始しました。

米国、EU、英国、フランス：これらの地域でも同時に調査が進行中で、前例のない多司法管轄の共同規制圧力がかかっています。

よくある質問

今回の集団訴訟と、xAIが提起し得る「プラットフォーム免責」抗弁はどう衝突するのか？

IGNOS法律連盟のパートナー、アレックス・チャンドラは、裁判所は単純なプラットフォーム免責の抗弁を認めない可能性が高いと述べています。彼は、生成AIシステムはユーザーとのインタラクションの側面から「プラットフォーム」とみなされることもあるが、安全設計の評価においては「製品」として扱われるべきであり、特にCSAMに関わる案件では児童保護義務の強化により、「非常に厳格な審査基準」が適用されると指摘しています。企業は、展開前にリスク評価や安全設計の証拠を提示し、自発的な予防義務を果たしていることを証明する必要があるでしょう。

マルサ法（Martha’s Act）とは何か、なぜこの事件に適用されるのか？

マルサ法は、米国の児童性的虐待資料に関する連邦法であり、CSAMの作成、流通、所持に対して厳格な民事・刑事責任を課しています。違反ごとに最低15万ドルの賠償が求められ、xAIがこの法律の「創作者」と認定されるか、また第三者の許可構造が直接責任を排除できるかが争点となっています。この法律の境界線の解明は、AI生成コンテンツ産業全体の責任認定フレームに大きな影響を与える可能性があります。

この事件はAI画像生成技術の未来にどのような影響をもたらすのか？

これは、AI企業が未成年者のCSAMを生成した場合に直接責任を追及される最初の訴訟の一つです。裁判所がAI企業のモデルの濫用出力に対して直接責任を認めた場合、業界は展開前の安全性検証基準を大幅に強化せざるを得なくなります。具体的には、レッドチームによるテスト、コンテンツフィルタリング機能の導入、高リスク生成能力の事前制限などが義務付けられる可能性があります。これにより、生成AIモデルの商業化とリリースにおける審査プロセスが根本的に変わる可能性があります。