第30節 人間の概念に閉じ込められる「抽象化の壁」〜第37節 パラダイムに依存しない基礎理論
第30節 人間の概念に閉じ込められる「抽象化の壁」
現在のAIは、主として人間が作った文章、画像、コード、分類に基づいて学習します。
そのため、AIが形成する概念も、人間がすでに持つ概念の組み合わせに制約される可能性があります。
原報告書はこれを、後のボトルネック分析でAbstraction Barrier――抽象化の壁として扱っています。（原報告書、Section 5.5）
問題は次のとおりです。
人間のデータから学ぶAIは、人間がまだ発見していない根本的に新しい概念を形成できるのか。
たとえば、人間には直感的に理解できない、
- 新しい数学概念
- 新しい物理表現
- 新しい認知構造
- 新しい社会制度
- 新しい科学分類
をAIが自律的に作れるのでしょうか。
人間の概念を学ぶことは、AGIにとって極めて有用です。
しかしASIへ進むには、人間の知識を圧縮するだけでなく、人間の概念空間そのものを超える必要があるかもしれません。
第31節 生の世界から新しい概念を形成する
抽象化の壁を越えるためには、AIが人間のラベルだけに依存せず、
- 観測
- 実験
- 行動
- シミュレーション
- 自己生成した仮説
から新しい概念を形成する必要があるかもしれません。
これは子どもが世界と相互作用しながら、
- 物体
- 原因
- 意図
- 数
- 空間
- 時間
といった概念を形成することに似ています。
世界モデル、強化学習、ロボット、科学実験などは、この能力を育てる手段になる可能性があります。（原報告書、Section 5.5）
第32節 効率の飛躍
パラダイム転換とASI
真のパラダイム転換が起きた場合、最も大きな影響の一つは効率の改善です。
たとえば、
- 同じ能力を100分の1のデータで実現する
- 同じモデルを1000分の1の電力で動かす
- 数か月の学習を数時間で行う
- 巨大モデルの能力を小型システムで実現する
ことが可能になるかもしれません。
この場合、スケーリングの物理的・経済的制約が一時的に大きく緩和されます。
ASIへの経路は、
より多くの資源を投入する。
だけではなく、
同じ資源から、桁違いに多くの知能を得る。
方向へ変わります。
第33節 スケーリングとパラダイム転換は対立しない
第一経路のスケーリングと、第二経路のパラダイム転換は、どちらか一方を選ぶものではありません。
通常、新しいアルゴリズムは、計算資源と組み合わせて初めて大きな効果を持ちます。
また、大規模計算によって初めて、新しいアルゴリズムの可能性が発見されることもあります。
両者の関係は、次のような循環になる可能性があります。
1. 現行方式をスケーリングする
2. 限界やボトルネックが明らかになる
3. 新しいアルゴリズムが開発される
4. 効率が改善する
5. 新方式をさらにスケーリングする
6. 新たな限界が現れる
したがって、ASIへの進歩は、連続的な規模拡大と、断続的なアルゴリズム革新の組み合わせになる可能性があります。
第34節 パラダイム転換がAGI以前に起きる場合
現在のパラダイムが人間レベルAGIに到達する前に限界へ達する可能性があります。
その場合、AGIそのものが新しいアーキテクチャや学習原理によって実現されるでしょう。
この場合、AGIからASIへの移行は、すでに新しいパラダイム上で進みます。
新方式が現在よりはるかに効率的なら、AGI実現後の進歩も速くなる可能性があります。
反対に、新方式が複雑で、大規模化や製造に時間がかかるなら、AGI以後の進歩は緩やかになるかもしれません。
第35節 パラダイム転換がAGI以後に起きる場合
現在のパラダイムがAGIまでは到達できても、ASIには届かない可能性もあります。
この場合、人間レベルAGIがAI研究を支援し、新しいパラダイムを発見するかもしれません。
たとえば、数百万体のAGI研究者が、
- 新しいモデル構造を探索する
- 新しい数学的理論を作る
- 膨大な実験を行う
- 新しい半導体を設計する
- 学習アルゴリズムを自動生成する
ことが考えられます。
この場合、第二経路は第三経路の再帰的自己改善と結び付きます。
第36節 予測不能性そのものが重要である
パラダイム転換は予測が難しいため、将来予測から除外したくなるかもしれません。
しかし原報告書は、予測困難であることを理由に無視すべきではないとしています。
むしろ、
スケーリングの予測だけを用いると、アルゴリズム革新による突然の効率改善を見落とす。
危険があります。
逆に、
革命的発見がすぐに起きる。
と仮定するのも根拠がありません。
したがって、予測には、
- 現在のパラダイムが継続するシナリオ
- 徐々に進化するシナリオ
- 大きな転換が起きるシナリオ
- 転換が期待されたほど機能しないシナリオ
を含める必要があります。
第37節 パラダイムに依存しない基礎理論
原報告書が提案する対応は、特定の技術路線を予測することだけではありません。
重要なのは、どのパラダイムにも依存しない形で、
- 知能とは何か
- 学習の限界は何か
- 計算資源と能力の関係は何か
- どの問題が原理的に困難か
- AIの能力をどう測るか
- 安全性をどう評価するか
を理解することです。
この基礎理論があれば、新しい技術が現れたとき、
- 本当に限界を突破したのか
- どの程度の改善なのか
- 新しいリスクは何か
- 理論的上限までどの程度距離があるか
を評価しやすくなります。
原報告書は、パラダイム転換の不確実性を減らすには、AGI・ASIとその限界についての、パラダイム非依存的な基礎理解を進める必要があると結論付けています。（原報告書、Section 5.2）