第6回 1/8　はじめに〜第3節　自己改善は「自分のコードを書き換えること」だけではない

Google DeepMind「From AGI to ASI」完全解説｜第6回 / 全9回
本文 1 / 8

はじめに〜第3節　自己改善は「自分のコードを書き換えること」だけではない

はじめに

Google DeepMindの『From AGI to ASI』は、AGIからASIへ向かう第三の経路として、Recursive Self-Improvement――再帰的自己改善を挙げています。

再帰的自己改善という言葉からは、しばしば次のような場面が想像されます。

  1. AIが自分自身のプログラムを読み取る
  2. 自分より優れたコードへ書き換える
  3. 改良されたAIが、さらに自分を改良する
  4. この循環が急速に反復される
  5. 短期間で人間をはるかに超える超知能が生まれる

これは、再帰的自己改善の一つの可能性ではあります。

しかし、原報告書が扱う概念は、これより広いものです。

原報告書における再帰的自己改善とは、

AIがAIの研究開発を促進し、その結果として生まれた改良型AIが、さらにAI研究開発を加速する循環

を意味します。

したがって、AIが自分の内部コードを直接書き換えなくても構いません。

AIが、

  • より良いアルゴリズムを発見する
  • 実験を設計・実行する
  • 学習データを生成する
  • 半導体を設計する
  • データセンターの効率を高める
  • AI研究者同士の分業を改善する

ことによって、次世代AIを生み出し、その次世代AIが同じ研究をさらに効率化するなら、すでに再帰的な改善循環が成立します。（原報告書、Section 5.3）

この経路が特に重要なのは、AIの進歩速度そのものが、AI能力によって変化する可能性があるからです。

通常の技術進歩では、研究者が新技術を開発します。

しかしAIがAI研究者の役割を担うようになれば、

AI能力の向上が、AI能力向上の速度をさらに高める

という正のフィードバックが生じます。

この循環が十分に強ければ、AGIからASIへの移行は、数十年かけてゆっくり進むのではなく、数年、数か月、あるいは理論上はさらに短い期間に圧縮される可能性があります。

一方で、原報告書は「知能爆発」を当然視していません。

再帰的改善は途中で停滞するかもしれません。

次世代AIを改善するために必要な計算資源、実験、データ、半導体、電力が急増し、改善循環を維持できなくなる可能性もあります。

したがって、Section 5.3の中心的な問いは、

再帰的自己改善は起こるか否か。

だけではありません。

どの種類の改善循環が、どの程度の速度で進み、どこで限界に達するのか。

という問題です。

第1節　「再帰的」とは何を意味するのか

再帰的という言葉は、ある過程の出力が、次の同じ過程の入力になることを意味します。

AI研究に当てはめると、次の循環になります。

  1. 現在のAIがAI研究を支援する
  2. その研究によって、より優れたAIが作られる
  3. より優れたAIが、AI研究をさらに効果的に支援する
  4. その結果、さらに優れたAIが作られる
  5. 循環が反復される

ここで重要なのは、単にAIが一度だけ改善されることではありません。

改善されたAIが、次の改善能力そのものを高めることです。

たとえば、AIが人間の研究者を20％効率化するだけなら、研究開発速度は上がります。

しかし、その結果生まれた次世代AIが研究者を50％効率化し、その次が研究作業の大部分を自律的に実行できるようになれば、研究速度の増加率自体が上昇します。

これが再帰的改善の核心です。

原報告書は、AI研究開発の完全な自動化が可能になり、改善循環が広い能力領域にわたって持続する場合、AGIからASIへの「爆発的」移行が起こり得ると指摘しています。（原報告書、Section 5.3）

第2節　通常の技術進歩との違い

人類の技術発展にも、再帰的な側面があります。

新しい道具が、次の道具を作る能力を高めるからです。

たとえば、

  • コンピュータが新しいコンピュータの設計を助ける
  • 科学機器が新しい科学的発見を可能にする
  • 教育制度が次世代の研究者を育てる
  • 印刷技術が知識の共有を加速する
  • インターネットが世界的な共同研究を促進する

という循環です。

しかし、人間社会の改善速度には大きな制約があります。

  • 研究者の教育に長い時間がかかる
  • 専門知識の共有が不完全
  • 人間には睡眠や休息が必要
  • 研究者の人数を急速に増やせない
  • 組織が大きくなると調整コストが増える
  • 新しい世代へ知識を伝えるのに年月がかかる

AIでは、これらの制約の一部が弱まる可能性があります。

優れたAI研究者を複製でき、学習成果を多数の個体へ共有でき、24時間稼働させられるなら、研究者集団の拡大速度は人間社会と異なります。

したがって、再帰的自己改善は、技術進歩の完全に新しい原理ではありません。

人間社会にも存在する技術的・文化的フィードバックを、デジタル知能がはるかに速い速度で実行する可能性なのです。

第3節　自己改善は「自分のコードを書き換えること」だけではない

原報告書は、再帰的自己改善を四つの主要な形に分類しています。

  1. アルゴリズムとソフトウェアの改善
  2. ハードウェアの改善
  3. データによる改善
  4. 分業と専門化による改善

この分類は非常に重要です。

AIが自分自身のコード全体を理解し、直接変更できなければ再帰的自己改善は起こらない、という見方を避けられるからです。

実際には、四つの改善経路の一部だけでも、正のフィードバックが成立する可能性があります。（原報告書、Section 5.3）