1M AIニュースのモニタリングによると、《大西洋月刊》は、テクノロジー史学者、金融史学者のSebastian Mallabyの新書『The Infinity Machine』の抜粋を掲載した。2023年から2026年にかけての継続的な取材に基づき、Google DeepMindの共同創設者であるDemis Hassabisが、2014年のGoogleによる買収以来、AIの安全性に関する理念をどのように進化させてきたかを再現している。
Hassabisの若い頃の構想は、単一の科学チームが人類全体の安全のために超知能を構築できるというものだった。さらに、決定的な瞬間にはトップ研究者を秘密のバンカーに退避させる計画もあり、これはマンハッタン計画のようなものだった。参加した研究員は、面接の終盤にHassabisが「いつでもモロッコの秘密の場所に飛べる準備をしておけ」と警告したことを回想している。
2014年にGoogleがDeepMindを買収した際、Hassabisは稀有な条件を提示した。独立した外部監督委員会を設置し、軍事用途を禁じ、Googleが技術の展開を完全に支配しないことを約束させた。Googleはこれを受け入れた。翌年、彼はマスクがカリフォルニア州ホーソーンに構える本社で、潜在的な競合相手を一つの陣営にまとめようとする秘密会議を招集したが、結果は裏目に出た。マスクはその後、Sam Altmanと手を組み、OpenAIを創設した。
その後Hassabisは、コードネーム「Project Mario」の秘密行動を起こし、Googleから統治の主導権を奪い返そうとした。法律チームを組織し、LinkedInの創業者Reid Hoffmanから10億ドルの資金提供の約束を取り付け、さらにDeepMindをGoogleから切り離して独立させることも検討した。この争いは3年続き、最終的に失敗に終わった。共同創設者のMustafa Suleymanも2019年に会社を去らざるを得なかった。
2022年末にChatGPTが公開された後、Hassabisは「有益な科学だけを行う」という高姿勢の路線を完全に放棄した。彼はMallabyに対し、「これは戦時だ」と語り、その後GeminiとChatGPTの競争に全力を注いだ。数千億ドルがAIの軍拡競争に流れ込み、国家の規制や企業のガバナンス構造では競争を止められなくなった。Hassabisの安全哲学も根本から転換し、「安全はガバナンスの枠組みに依存しない。たとえガバナンス委員会があったとしても、いざというときに正しい判断を下せる保証はない」と述べている。彼の新戦略は、自身が「意思決定の場にいることを確保し、安全問題が生じた際に解決策の決定に参加できる状態を作る」ことだ。同時に、Googleはすでに米国国防システムに向けてAIを積極的に売り込み始めており、Hassabisが買収のために当時設定した軍事禁令とは鮮やかな逆転を見せている。
