はじめに〜第1節 Section 6の中心問題
はじめに
Google DeepMindの『From AGI to ASI』は、ASIの実現時期を予測する報告書ではありません。
この報告書の目的は、人間レベルのAGIが実現した後もAIの能力が向上すると仮定した場合に、どのような技術的経路があり、何がその進歩を加速し、何が減速または停止させるのかを整理することにあります。
これまでの解説では、報告書が提示する四つの経路を確認しました。
- 計算資源、モデル、データのスケーリング
- アルゴリズム的パラダイム転換
- 再帰的自己改善
- マルチエージェント集合知
そして、第8回では、これらに作用する六つの主要な摩擦・ボトルネックを検討しました。
- データの壁
- 経済的・自然資源需要
- 現在のニューラル・パラダイムの限界
- 研究の難化
- 抽象化の壁
- 意図的な減速
さらに、物理世界での実験、観測、製造が必要になる「身体性・現実接地のボトルネック」も重要な制約として扱われました。
原報告書のSection 6とSection 7は、これらを統合し、次の問いに答えようとします。
四つの経路と六つのボトルネックを総合したとき、AGI以後のAI進歩について何が言えるのか。
AIの能力向上を、どのように測定し、予測し、監視すべきか。
AGIからASIへの移行を理解するために、今からどのような研究を進める必要があるのか。
社会、大学、研究機関、政府、企業は、どのような準備をすべきなのか。
著者たちの最終的な立場は、慎重ですが明確です。
未来を正確に予測することはできません。
しかし、不確実だからといって、何も研究できないわけではありません。
むしろ、不確実性を構成する要素を分解し、測定可能な研究課題へ変え、継続的に予測を更新する必要があります。論文は、四つの経路と摩擦の影響を確定的な予測ではなく、今後検証すべき「開かれた研究プログラム」として位置付けています。（原報告書、Sections 6・7）
第1節 Section 6の中心問題
量的スケーリングだけでASIに到達できるのか
Section 6で著者たちが改めて取り上げる中心的な問いは、
AGIに、より多くの実効計算量を与え続けるだけでASIに到達できるのか。
という問題です。
理論的には、予測を仮説空間の探索、計画を行動方針の探索として捉えるなら、より多くの計算資源によって探索範囲を拡大し、性能を高められる可能性があります。
Universal AIやAIXIの近似においても、より多くの計算を与えれば、理論上はUniversal Intelligenceへ近づく方向に進みます。
しかし、現実には単純な総当たり探索は、非常に早い段階で計算不可能な規模になります。
そのため実用的なAIは、
- どの仮説を優先するか
- どの可能性を無視するか
- どの探索経路が有望か
- どの情報を重要とみなすか
という帰納的バイアスや事前知識を使います。
これらは探索効率を大きく高めますが、同時に、AIが検討できる仮説や解法の範囲を制限します。
ある段階までは有効だった帰納的バイアスが、より高度な知能へ進む際には天井になる可能性があります。
したがって、現実のAIでは、
より多くの計算資源
だけでなく、
計算資源を有効な知能へ変換する新しい質的革新
が継続的に必要になると著者たちは考えています。（原報告書、Section 6）
1.1 スケーリングと質的革新の循環
この議論から、AGIからASIへの進歩は、次のような循環になると考えられます。
- 現在のモデルやアルゴリズムをスケーリングする
- 能力が向上する
- 収穫逓減や技術的限界が現れる
- 新しいアーキテクチャや学習方法を導入する
- 効率が改善し、再びスケーリングが可能になる
- 新しい限界が現れる
つまり、量的拡大と質的革新は対立するものではありません。
現実のAI進歩は、両者の反復によって生じる可能性があります。
1.2 現在の推論時スケーリングの限界
近年のAIでは、学習済みモデルに追加の推論計算を与えることで能力を高める方法が注目されています。
しかし原報告書は、現在のモデルに無制限に推論計算を与えても、比較的早く性能が頭打ちになると指摘します。
現在の推論時スケーリングだけで、人間レベルAGIをそのままASIへ押し上げられるとは考えにくいということです。
それでも、計算資源の増加には別の使い道があります。
一体のモデルをさらに長く考えさせるのではなく、
- 多数のAGIを同時に動かす
- 異なる仮説を並行して検討させる
- 集団や市場を形成する
- 専門化と分業を行う
ことで、集合体として超人的能力へ進める可能性があります。
著者たちは、個体AIの能力が人間レベル付近で停滞しても、数百万以上のAGIを組織できれば、人間の大規模組織を上回る可能性があると論じています。（原報告書、Section 6）