はじめに〜第3節 なぜスケーリングがAIを進歩させてきたのか
はじめに
Google DeepMindの『From AGI to ASI』は、AGIからASIへ進む可能性のある技術的経路を、次の四つに整理しています。
- 計算資源、モデル、データのスケーリング
- AIのアルゴリズムや学習パラダイムの転換
- AIによる再帰的自己改善
- 多数のAIエージェントによる集合知
これらは互いに排他的な経路ではありません。複数の経路が同時に進み、互いに強化し合う可能性があります。
その中で最初に扱われるのが、Scaling compute, models, and data――計算資源、モデル、データのスケーリングです。
これは現在のAI発展に最も直接つながる経路です。
過去十年ほどのAIの急速な進歩は、主として、
- より多くの計算資源を使う
- より大きなモデルを訓練する
- より多くのデータを与える
- 推論時にも追加の計算を使う
ことによって実現してきました。
原報告書は、この延長によってAGIからASIへ進める可能性を検討します。
しかし、この問いは単純ではありません。
計算量を増やせば、知能も増えるのでしょうか。
モデルを巨大化すれば、人間の大規模組織を超えられるのでしょうか。
量を増やし続ければ、いつか質的な飛躍が起きるのでしょうか。
それとも、データ、電力、半導体、費用、アルゴリズムの壁にぶつかるのでしょうか。
第4回では、この第一の経路を詳しく検討します。
第1節 四つの経路の中で、スケーリングが特別である理由
AGIからASIへの四つの経路のうち、スケーリングには一つの大きな特徴があります。
それは、過去のデータに基づいて、ある程度の予測モデルを作れることです。
アルゴリズム上の大発見がいつ起きるかは予測困難です。
AIが自らAI研究をどの程度加速するかについても、十分な歴史的前例がありません。
多数のAGIが形成する集合知についても、現在の実証的知識は限られています。
これに対してスケーリングについては、モデルのパラメータ数、学習データ量、計算量と性能の関係について、過去の実験結果があります。
そのため、四つの経路の中では唯一、過去の傾向を統計的に外挿できる経路です。
もちろん、過去の傾向が将来も続くとは限りません。
それでも、少なくとも予測の出発点となるデータが存在します。原報告書は、この点でスケーリング経路を、他の三経路より予測可能性が高いものとして位置付けています。（原報告書、Section 5.1）
第2節 スケーリングとは何を増やすことなのか
AIにおけるスケーリングは、単にモデルのパラメータ数を増やすことではありません。
少なくとも次の五つを区別する必要があります。
2.1 学習計算量
モデルを訓練するために使用する計算量です。
より多くの計算を使えば、
- より大きなモデルを訓練する
- より多くのデータを処理する
- より長く訓練する
- より複雑な学習方法を使う
ことができます。
2.2 モデル規模
一般には、ニューラルネットワークが持つパラメータ数や内部構造の規模を指します。
モデルが大きくなると、より複雑なパターンや知識を保持できる可能性があります。
ただし、大きいモデルが常に効率的とは限りません。
十分なデータや学習計算量がなければ、大きなモデルでも十分に訓練されず、性能を発揮できないことがあります。
2.3 データ量とデータ品質
学習に使用する文章、画像、音声、映像、コード、行動記録、科学データなどです。
量だけでなく、
- 正確性
- 多様性
- 難易度
- 重複の少なさ
- 現実との対応
- 学習目的との関連性
が重要です。
2.4 推論時の計算量
モデルを訓練した後、実際の問題に答える際に使用する計算量です。
これはtest-time computeまたはinference-time computeと呼ばれます。
AIに即答させるのではなく、
- 長く考えさせる
- 複数の解答候補を生成させる
- 自己検証させる
- 探索を行わせる
- 外部ツールやシミュレーションを使わせる
ことで、同じモデルでもより高い能力を引き出せます。
2.5 稼働するAIの個体数
同じモデルを一体だけ動かすのではなく、数千、数百万、数億のコピーを同時に動かす方法です。
これは個々のモデルの知能を高めるわけではありません。
しかし、集団全体の問題解決能力を高める可能性があります。
原報告書は、この問題を第一経路のスケーリングと第四経路のマルチエージェント集合知の接点として扱っています。（原報告書、Section 5.1）
第3節 なぜスケーリングがAIを進歩させてきたのか
過去のAI研究では、研究者が人間の知識をルールとして細かく書き込む方法が重視されていました。
たとえば、チェスAIであれば、
- この局面では駒を中央に置く
- キングを安全にする
- ポーン構造を守る
といった人間の知識をプログラムに組み込む方法です。
しかし、長期的に大きな成果を上げたのは、人間がルールを細かく記述する方法よりも、
- 大量の計算
- 探索
- 学習
- 自己対戦
- 一般的なアルゴリズム
を使う方法でした。
この考え方は、強化学習研究者Richard SuttonのThe Bitter Lessonとして知られています。
その中心的な教訓は、長期的には、人間が作り込んだ知識よりも、計算量の増加を利用できる一般的方法の方が大きく進歩するというものです。
『From AGI to ASI』は、この教訓をスケーリング経路の重要な根拠として挙げています。
もし知能の中心に探索があるなら、
- 学習とは、モデルや仮説の空間を探索すること
- 計画とは、可能な未来を探索すること
- 推論とは、解答候補を探索すること
と捉えられます。
その場合、計算量を増やすことは、より広く、より深く探索することを可能にし、知能の向上につながるかもしれません。（原報告書、Section 5.1）