OpenAI、増加するCSAM報告とAIによる搾取の悪用に対抗するための子どもの安全ブループリントを公開

要約

OpenAIは、AIを利用した児童性的搾取に対抗するために「Child Safety Blueprint（子どもの安全ブループリント）」を立ち上げ、ガイドラインを更新し、セーフガードを強化し、AI生成のCSAM報告が増加する中で、法的・技術的・運用的な措置の連携を促進しています。

OpenAIは、人工知能の研究と展開に焦点を当てる組織として、「Child Safety Blueprint（子どもの安全ブループリント）」を導入しました。これは、AIを利用した児童に対する性的搾取の防止と対応を目的とした枠組みです。この取り組みは、子どもに関わるオンライン上の害悪において、AIがもたらす促進と検出の役割が高まっていることへの対応として提示されています。

同社は、児童性的搾取をデジタル時代における最も差し迫った課題の1つだと位置付け、「そのような害悪がどのように発生するのか、そしてどのように大規模に抑制できるのか」といった点で、AI技術が変化をもたらしていると述べました。OpenAIは、同社のシステムの悪用を防ぐためのセーフガードを実装しており、行方不明・搾取被害児童の全米センターである (NCMEC) や法執行機関と連携して、検出と報告を改善していると表明しました。この連携により、より強固で共有された業界標準が必要な領域が浮き彫りになりました。

このブループリントは、AIの文脈において米国の子どもの保護に関する枠組みを強化するための戦略を示しています。NCMEC、ノースカロライナ州検事総長ジェフ・ジャクソンおよびユタ州検事総長デレク・ブラウンのインプットを含む Attorney General Alliance、そして非営利団体 Thorn など、子どもの安全に関わるエコシステム全体の組織や専門家からの意見を取り入れています。この枠組みは、子どもへの被害を防ぎ、法的・運用的・技術的な領域をまたいだ連携を強化するための、調整された取り組みの指針となることを意図しています。

この取り組みは、3つの主要な優先事項に焦点を当てています。すなわち、AIによって生成または改変された児童性的虐待コンテンツ (CSAM) への対応に向けた法律の更新、より効果的な捜査を支援するための提供者間における報告と連携の改善、そして誤用の防止と検出のために安全性を設計段階でAIシステムに直接組み込むことです。OpenAIは、単一のアプローチでは課題を単独で解決できないと強調し、この枠組みは、対応を加速し、リスクの特定を改善し、責任の所在を維持しつつ、技術の進化に応じて執行当局が行動できる状態を保つことを目指しています。

この枠組みは、より早期の介入を可能にし、搾取の試みを減らし、法執行機関に共有される情報の質を高め、エコシステム全体で説明責任を強化することで、子どもをより効果的に保護することを目的としています。

AI生成児童搾取の報告が2025年に14%増加　OpenAIが拡大版の「子どもの安全ブループリント」を発表

Internet Watch Foundation (IWF) の最新データによると、2025年上半期に、AI生成の児童性的虐待コンテンツに関する8,000件超の報告が検出されており、前年から14%の増加に相当します。これらの事例には、AIツールを使って偽の露骨な画像を生成し、金銭目的の性的脅迫（sextortion）に用いることや、グルーミングに使われるメッセージの作成が含まれます。ブループリントの公表は、政策立案者、教育者、子どもの安全を掲げる活動家の注目が高まっている時期に重なっており、特に、若者がAIチャットボットとやり取りした後に自殺で亡くなったとされる事案を受けて関心が集まっています。

2025年11月、Social Media Victims Law Center と Tech Justice Law Project は、カリフォルニア州の州裁判所に7件の訴訟を提起し、OpenAIが GPT-4o を時期尚早にリリースしたと主張しました。訴状では、AIシステムの心理的に人を操作する機能が、自殺や自殺幇助による不当な死に至る一因となったとしています。さらに、長期間にわたるやり取りの後に死亡した4人と、深刻な妄想を経験した3人の計7人を挙げています。

OpenAIの新しい子どもの安全ブループリントは、これまでの措置を土台にしています。18歳未満のユーザー向けに、不適切なコンテンツの生成、自己傷害を促す助言、そして危険な行動を隠すための指導を禁止するガイドラインの更新を含みます。同社はまた、インドのティーンを対象にした安全ブループリントも最近リリースしています。