Google DeepMind「From AGI to ASI」完全解説｜第6回 / 全9回
AIがAI研究を加速するとき、AGIからASIへの移行は急激になるのか
概要
Google DeepMindの『From AGI to ASI』は、AGIからASIへ向かう第三の経路として、Recursive Self-Improvement――再帰的自己改善を挙げています。
再帰的自己改善という言葉からは、しばしば次のような場面が想像されます。
詳細目次
- はじめに
- 第1節 「再帰的」とは何を意味するのか
- 第2節 通常の技術進歩との違い
- 第3節 自己改善は「自分のコードを書き換えること」だけではない
- 第4節 第一の形――アルゴリズムとソフトウェアの改善
- 4.1 AI研究のどの部分を自動化できるか
- 4.2 ニューラル・アーキテクチャ探索
- 4.3 ハイパーパラメータの自動最適化
- 4.4 メタ最適化
- 4.5 FunSearchとAlphaEvolve
- 第5節 第二の形――ハードウェアの改善
- 5.1 AIがチップを設計する
- 5.2 エネルギーとデータセンター
- 5.3 ロボットと製造能力
- 第6節 第三の形――データによる自己改善
- 6.1 学習データは固定された資源ではない
- 6.2 AlphaZero型の自己改善
- 6.3 自己対戦という開かれた環境
- 6.4 推論結果を学習へ戻す
- 6.5 合成データの危険
- 第7節 第四の形――分業と専門化
- 7.1 人間の専門化との違い
- 7.2 協力が必要になる
- 第8節 人間の進化との三つの類似
- 8.1 遺伝的進化――設計図の改善
- 8.2 文化的進化――知識と道具の改善
- 8.3 協力的進化――分業と組織
- 第9節 弱い再帰的改善はすでに始まっている
- 9.1 Human-in-the-loop
- 9.2 AI Scientist
- 第10節 知能爆発とは何か
- 10.1 双曲線的成長
- 10.2 Soft TakeoffとHard Takeoff
- 第11節 なぜ知能爆発は必ずしも起こらないのか
- 11.1 改善しやすい部分が先に尽きる
- 11.2 自分より優れたものを設計できるとは限らない
- 11.3 評価問題
- 11.4 実験費用の増加
- 11.5 物理世界の速度
- 11.6 データと現実による接地
- 11.7 資源消費の急増
- 第12節 AGIが人間より優秀なAI研究者でなくても加速は起きる
- 第13節 自己改善と安全性
- 13.1 能力向上と安全性維持
- 13.2 検証済みプログラム合成
- 13.3 ゲーデル・マシン
- 13.4 反復増幅
- 第14節 再帰的改善の速度をどう測るか
- 14.1 測るべき指標
- 14.2 人間の関与度
- 第15節 再帰的自己改善と他の三経路の関係
- 15.1 スケーリングとの関係
- 15.2 パラダイム転換との関係
- 15.3 マルチエージェント集合知との関係
- ERF Commentary
- 第16節 再帰的自己改善は「大学の自動化」でもある
- 第17節 AIが研究する時代に、大学は何を担うのか
- 第18節 研究の方向設定は誰が行うのか
- 第19節 AIが作った知識を人間は理解できるか
- 第20節 論文数ではなく信頼性が中心になる
- 第21節 大学自身も再帰的に改善できるか
- 第22節 人間とAIの共同改善
- 第23節 教育は研究方向を判断できる人間を育てなければならない
- 第24節 Ecological Universityとの関係
- 第25節 「止められる自己改善」が重要である
- 結論