Google DeepMind「From AGI to ASI」完全解説|第7回 / 全9回
マルチエージェント協調、分業、市場、そして「人工的組織知能」
概要
これまでの各回では、AGIからASIへ至る三つの経路を検討してきました。
第一は、計算資源、モデル、データ、推論時間を増大させるスケーリングです。
詳細目次
- はじめに
- 第1節 なぜ集団は個人より賢くなり得るのか
- 1.1 個体の知能と組織の知能
- 1.2 集合知は人数の合計ではない
- 第2節 「Group Agent――集団的主体」とは何か
- 2.1 完全自動化企業
- 2.2 構成員とは異なる目的
- 第3節 二つの主要な組織形態
- 3.1 均質な超集合体
- 3.2 多様なAIによる分散型市場
- 3.3 中央集権と分散型の中間
- 第4節 認知的分業
- 4.1 問題の分解
- 4.2 並列化できる問題
- 4.3 並列化しにくい問題
- 第5節 多様性はなぜ必要なのか
- 5.1 同じモデルを多数動かす場合
- 5.2 異なるモデルを組み合わせる場合
- 第6節 協力と競争
- 6.1 ゼロサム競争
- 6.2 協力能力の評価
- 第7節 創発
- 7.1 意図しない役割分化
- 7.2 独自の通信方法
- 7.3 集団規範
- 第8節 マルチエージェント・スケーリング則
- 8.1 線形的成長
- 8.2 劣線形的成長
- 8.3 超線形的成長
- 8.4 負のスケーリング
- 第9節 一つの巨大モデルと多数の小型AI
- 9.1 巨大モデルの利点
- 9.2 多数モデルの利点
- 第10節 集団の失敗
- 10.1 情報カスケード
- 10.2 集団思考
- 10.3 責任の分散
- 10.4 目標の断片化
- 10.5 通信量の爆発
- 第11節 集団アラインメント
- 11.1 個体アラインメントと集団アラインメント
- 11.2 メカニズム・デザイン
- 第12節 認識上のレジリエンス
- 12.1 独立検証
- 12.2 少数意見の保存
- 12.3 訂正可能性
- 12.4 多様な評価器
- 第13節 人間とAIの混合集団
- 13.1 速度の非対称性
- 13.2 情報量の非対称性
- 13.3 理解能力の非対称性
- 13.4 意味のある人間参加
- 第14節 マルチエージェント経路はASIへの「緩やかな道」か
- 14.1 弱いASI
- 14.2 集団が自己改善を始める場合
- ERF Commentary
- 第15節 大学はすでに集団的知能である
- 第16節 AI研究所と大学の競合
- 第17節 大学とAIのハイブリッド共同体
- 第18節 学際性の意味が変わる
- 第19節 Disagreeing Wellと集合知
- 第20節 大学は異論を保存する制度である
- 第21節 AI組織のガバナンスを誰が研究するのか
- 第22節 人間が参加する意味
- 第23節 Ecological Universityとの関係
- 第24節 大学は「人間とAIが共に考える制度」へ
- 結論
