はじめに〜第2節 Universal AIとは何か
はじめに
第2回では、Google DeepMindの『From AGI to ASI』が、AGIを中央値に位置する一人の人間（本シリーズでいう「平均的人間」）におおむね匹敵する汎用知能、ASIを大規模な人間専門家集団を広範に上回る人工知能として捉えていることを確認しました。
しかし、ここでさらに根本的な問いが生じます。
ASIの能力は、どこまで高くなり得るのでしょうか。
人間を超え、大企業や研究機関を超えた先にも、知能の向上は際限なく続くのでしょうか。
それとも、理論上の上限が存在するのでしょうか。
原報告書のSection 4は、この問いを考えるために、Universal AI――普遍的人工知能という理論的枠組みを導入します。
その中心にあるのが、Marcus Hutterが定式化したAIXIです。
AIXIは、現実に実装されたAIシステムではありません。
Google DeepMindが開発中のモデルでも、将来そのまま実現される設計図でもありません。
AIXIとは、
未知の環境で行動しながら、将来得られる報酬を最大化する、理論上きわめて一般的かつ最適な知的エージェント
を数学的に定式化しようとする試みです。
しかし同時に、AIXIには決定的な特徴があります。
AIXIは計算不可能です。
つまり、理論上は記述できますが、有限のコンピュータ上で完全に実行することはできません。AIXIの原型となるUniversal AI理論は、未知の環境での意思決定に、Solomonoffの普遍的帰納法とベイズ的意思決定を組み合わせたものですが、その一般性と引き換えに、実際には計算不能になります。（原報告書、Section 4；Hutterの基礎研究）
それでは、なぜ実現不可能なAIを論文に持ち出すのでしょうか。
その理由は、AIXIを現実の設計案としてではなく、機械知能を上から考えるための理論的な基準点として用いるためです。
本稿では、次の問題を順に解説します。
- Universal AIとAIXIとは何か
- AIXIはどのように世界を学習するのか
- 予測と行動をどのように結び付けるのか
- なぜAIXIは理論的に優れていると考えられるのか
- なぜAIXIは計算できないのか
- AIXIと現代の生成AIはどのように違うのか
- Universal AIはASIを理解するうえで何を教えるのか
第1節 「下からの予測」と「上からの限界」
AGIやASIの未来を考える方法には、大きく二つあります。
第一は、現在のAIから出発し、その延長として将来を予測する方法です。
たとえば、
- モデルの規模がさらに大きくなる
- 学習用計算資源が増える
- 推論能力が向上する
- AIエージェントが長期的に行動できるようになる
- 多数のAIが協働する
といった現在の傾向を延長し、AGIやASIにどこまで近づけるかを考えます。
これは下からの接近です。
しかし、この方法には弱点があります。
将来のASIが、現在の大規模言語モデルやTransformerの単純な延長ではない可能性があるからです。新しい学習原理、新しいハードウェア、新しいエージェント設計が登場すれば、現在からの外挿は大きく外れるかもしれません。
第二は、知能の理論的上限から逆向きに考える方法です。
つまり、
原理的に考えられる最も一般的で合理的な人工エージェントとは、どのようなものか。
を先に定義し、現実のAIがそこからどれほど離れているかを考えます。
これは上からの接近です。
『From AGI to ASI』は、Universal AIを、現在のAIからの外挿とは別の「上側の基準」として導入しています。論文は、Universal AIを機械知能の形式的な漸近的上限として扱い、現在の実践的AIとの間には依然として大きな隔たりがあると明記しています。（原報告書、Section 4；Hutterの基礎研究）
第2節 Universal AIとは何か
Universal AIという言葉の“Universal”は、「何でも知っている」という意味ではありません。
また、すべての問題を必ず解けるという意味でもありません。
ここでの普遍性とは、
特定の環境、特定の問題、特定のデータ分布だけを前提にせず、原理上は広範な計算可能環境に対応できること
を意味します。
現代の多くのAIシステムは、あらかじめ設定された問題構造の中で動きます。
囲碁AIなら、盤面、着手、勝敗という環境が定義されています。
画像分類AIなら、画像を入力し、カテゴリを出力するという課題が決まっています。
大規模言語モデルなら、主としてトークン列を入力し、次のトークンを予測するという訓練目標があります。
これに対しUniversal AIが扱おうとするのは、より一般的な状況です。
エージェントは、
- 自分がどのような世界にいるのかを知らない
- 世界がどのような規則で動くのかを知らない
- 自分の行動が何を引き起こすかを知らない
- 観測し、行動し、結果を受け取りながら学習する
という条件から出発します。
つまりUniversal AIは、未知の世界で学び、予測し、目的に沿って行動するエージェントの一般理論です。