ボットを超えて:次のAIブレークスルーを支える人間のエンジン
「コンピュート」神話
人工知能における主流の物語は、進歩は計算能力の向上とモデルにより「インターネット規模」のデータを供給することの直線的な結果であることを示唆している。しかし、業界は「品質の壁」に直面しており、特にロボティクスや物理的AIにおいて次のブレークスルーはGPUだけでは合成できない「人間規模」のデータを必要とする。AIシステムはしばしば「報酬ハッキング」に苦しむ。これは、アルゴリズムが真の人間の意図や文化的ニュアンスではなく、数学的代理指標を最適化することに偏る現象だ。
これらの制限を超えるために、「ヒューマン・イン・ザ・ループ」(HITL)の概念は贅沢から必須へと移行している。巨大なサーバーファームが生の処理能力を提供する一方で、信頼性が高く安全で有用なシステムを構築する最も難しい部分は人間の深い関与にある。AIの未来はH100クラスターだけに依存するのではなく、世界規模で人間の判断を調整できる能力にかかっている。
モデルは計算だけでは改善しない
人間の入力はAIの品質にとって不可欠な「ラストマイル」を表し、自動化された訓練では不足する修正と文脈を提供する。自動最適化は技術的には機能するモデルを生み出すこともあるが、実際には正当性や変化する社会規範の理解を欠いているため、実用的には意味をなさないことが多い。
原文表示