Google DeepMind「From AGI to ASI」完全解説｜第9回 / 全9回
四つの経路、六つのボトルネック、研究アジェンダ、そして原報告書の最終結論
概要
Google DeepMindの『From AGI to ASI』は、ASIの実現時期を予測する報告書ではありません。
この報告書の目的は、人間レベルのAGIが実現した後もAIの能力が向上すると仮定した場合に、どのような技術的経路があり、何がその進歩を加速し、何が減速または停止させるのかを整理することにあります。
詳細目次
- はじめに
- 第1節 Section 6の中心問題
- 量的スケーリングだけでASIに到達できるのか
- 1.1 スケーリングと質的革新の循環
- 1.2 現在の推論時スケーリングの限界
- 第2節 AGIとASIの境界は、個体ではなく組織にあるかもしれない
- 第3節 AI能力の進歩とは何を意味するのか
- 第4節 原報告書の研究アジェンダ
- 第5節 研究領域1
- スケーリングの摩擦とボトルネック
- 5.1 データの壁
- 5.2 計算資源と知能の関係
- 5.3 パラダイム転換の予測
- 5.4 研究の難化
- 5.5 抽象化と身体性
- 第6節 研究領域2
- 定量的予測
- 6.1 測るべきマクロ指標
- 6.2 単一予測ではなく複数モデル
- 6.3 転換点を見つける
- 6.4 継続的に更新する予測機関
- 第7節 研究領域3
- ASIをどのように測定するか
- 7.1 人間基準の飽和
- 7.2 マルチエージェント・ベンチマーク
- 7.3 Setter–Solver方式
- 7.4 圧縮ベンチマーク
- 7.5 間接的な能力測定
- 7.6 質的飛躍と測定上の飛躍
- 第8節 研究領域4
- 再帰的自己改善の動態
- 8.1 改善機構ごとのスケーリング則
- 8.2 固定モデルを推論だけでどこまで伸ばせるか
- 8.3 再帰的蒸留
- 8.4 AI Scientistの生産性
- 8.5 知的労働が安価になった後のボトルネック
- 第9節 研究領域5
- マルチエージェント・スケーリング
- 9.1 どの課題で集団が有効か
- 9.2 組織形態の比較
- 9.3 個体を大きくするか、個体数を増やすか
- 9.4 集団アラインメント
- 9.5 認識上のレジリエンスと回復可能性
- 第10節 研究領域6
- 超知能の理論的基礎
- 10.1 実用的なAIXI理論
- 10.2 圧縮と近似の理論的限界
- 10.3 能力の凹凸は本質的か
- 10.4 ASIの能力は予測可能か
- 第11節 研究領域7
- AI安全性、アラインメント、社会文化的問題
- 11.1 意図的減速の方法
- 11.2 超知能は整合させやすいのか
- 11.3 収束的な道具的目標
- 11.4 科学の制度は耐えられるか
- 11.5 労働から資本への移行
- 第12節 原報告書の最終結論
- 12.1 一つのタイムラインへ賭けてはならない
- 12.2 AGIで正確に止まる可能性は低い
- 12.3 二つの比較的可能性の高いシナリオ
- 12.4 「次の10年から20年」を無視できない
- ERF Commentary
- 第13節 この報告書は「AGIの予測」ではなく「準備の設計図」である
- 第14節 「AGIの瞬間」ではなく、連続する社会変革
- 第15節 大学は一度のAI改革では対応できない
- 第16節 大学に必要なのは予測力より更新力
- 第17節 大学はASIベンチマークの形成に参加すべきである
- 第18節 知識生成より知識統治が重要になる
- 第19節 AI時代の学際性は「付加的な価値」ではない
- 第20節 BarnettのEcological Universityとの関係
- 第21節 大学はAIの速度と社会の速度をつなぐ制度である
- 第22節 高等教育に必要な研究アジェンダ
- 第23節 この報告書の限界
- 結論