第8節 研究領域4〜第10節 研究領域6
第8節 研究領域4
再帰的自己改善の動態
再帰的自己改善は、AI進歩を最も大きく加速させる可能性があります。
同時に、最も理解されていない要因の一つです。
原報告書は、再帰的改善を一つの抽象概念ではなく、複数の具体的機構へ分解して測定するよう求めています。（原報告書、Section 7.1）
8.1 改善機構ごとのスケーリング則
測るべき対象には、
- AIによるアルゴリズム設計
- AIによる最適化手法の発見
- AIによるハードウェア設計
- 推論時探索
- 合成データ生成
- 自己対戦
- 実験の自動化
- 専門化と分業
があります。
それぞれについて、
- 現在どの程度の効果があるか
- AI能力が向上すると効果がどう変わるか
- 計算資源当たりの改善率
- どこで頭打ちになるか
を測定する必要があります。
8.2 固定モデルを推論だけでどこまで伸ばせるか
モデルのパラメータを変更せず、推論時の探索だけで能力をどこまで引き上げられるかを研究する必要があります。
これは、
- 一体のモデルの能力向上
- 推論計算量の限界
- ASIに必要な新しい学習の有無
を理解するうえで重要です。
8.3 再帰的蒸留
推論時探索で得た優れた結果を、次のモデルへ学習させる循環です。
研究課題には、
- 基盤モデルの大きさと探索量の最適比率
- どの頻度で蒸留するか
- 検証器の品質
- どの条件で自己改善が退化するか
- 合成データの誤りをどう防ぐか
があります。
原報告書は、AlphaZero型の探索と学習の循環を、一般的自己改善へ拡張する理論が必要だとしています。（原報告書、Section 7.1）
8.4 AI Scientistの生産性
AI研究システムが、
- 何件の仮説を作ったか
- 何本の論文を書いたか
だけでは不十分です。
必要なのは、
- 実際に採用された改善
- 再現可能な発見
- 計算効率向上
- 人間研究者より優れた提案
- 次世代AIへの具体的寄与
を測ることです。
8.5 知的労働が安価になった後のボトルネック
仮に、純粋な知的研究労働がほぼ完全に自動化され、非常に安価になったとします。
その後も残る制約は、
- 実験設備
- 物理時間
- 半導体製造
- 電力
- 資源
- 検証
- 安全性
- 社会的承認
です。
著者たちは、この「armchair science becoming a mass product――机上の科学が大量生産可能になる」状況で、どの摩擦が最後まで残るかを研究課題としています。（原報告書、Section 7.1）
第9節 研究領域5
マルチエージェント・スケーリング
多数のAGIによる集合知は、ASIへの重要な経路ですが、集団能力のスケーリング則はほとんど分かっていません。
原報告書は、AI集団の理論研究だけでなく、すでに可能になりつつある大規模実験を進めるべきだとしています。（原報告書、Section 7.1）
9.1 どの課題で集団が有効か
研究すべき問いは、
- どの課題が分解可能か
- どの課題が並列化可能か
- どの課題では一体の統合モデルが優れるか
- どの課題では多数の専門AIが優れるか
です。
9.2 組織形態の比較
比較すべき組織には、
- 同質的なAI集団
- 中央統括型
- 階層型
- 異質な専門AI市場
- 競争型
- 協力型
- 人間とAIの混成組織
があります。
同じ計算資源を使っても、組織形態によって成果が大きく異なる可能性があります。
9.3 個体を大きくするか、個体数を増やすか
限られた計算予算を、
- 一体の巨大モデルへ使う
- 多数の小型モデルへ分配する
のどちらが有効かを調べる必要があります。
課題の性質、通信費用、専門化利益、統合コストによって答えは変わります。
9.4 集団アラインメント
個々のAIを整合させても、集団全体が望ましい行動を取るとは限りません。
必要なのは、
- 集団目標
- 市場インセンティブ
- 権限配分
- 監査制度
- 情報共有
- 誤情報への耐性
を含む集団アラインメントです。
9.5 認識上のレジリエンスと回復可能性
人間とASIが混在する集団では、知能差が大きいため、人間が判断過程を追跡できなくなる可能性があります。
そのため、
- 独立検証
- 異論の保存
- 意思決定履歴
- 巻き戻し
- 外部監査
- 停止可能性
を持つ制度が必要です。（原報告書、Section 7.1）
第10節 研究領域6
超知能の理論的基礎
AIが高度になるほど、Universal AIやAIXIの理論上限が重要になります。
現在のAIは理論上限から遠いため、実用的性能だけを見てもよいかもしれません。
しかしASI領域では、
- 何が原理的に可能か
- どの問題が計算困難か
- 近似によってどこまで到達できるか
- 限られた計算予算で何ができるか
という基礎理論が必要になります。（原報告書、Section 7.1）
10.1 実用的なAIXI理論
AIXIそのものは計算不可能です。
したがって、
- 実用的AIへどう近似するか
- どの問題では良い近似が可能か
- 近似精度を事前に予測できるか
- どの計算予算でどの能力が得られるか
を研究する必要があります。
10.2 圧縮と近似の理論的限界
AIは有限資源の中で、世界の情報を圧縮し、近似モデルを作ります。
そのため、
- どの情報を失ってもよいか
- どの抽象化が一般化に有効か
- どの問題では近似が危険か
を複雑性理論から分析する必要があります。
10.3 能力の凹凸は本質的か
現在のAIは、ある課題では超人的で、別の単純課題では失敗します。
この能力の凹凸が、
- AI知能に本質的な性質なのか
- 人間基準の評価による見かけなのか
- 現在のアーキテクチャ固有の問題なのか
を明らかにする必要があります。
10.4 ASIの能力は予測可能か
あるASIが、
- 何をできるか
- 何をできないか
- どの課題で失敗するか
- どの程度の資源が必要か
を事前に予測できるのかは、統治に直結する問題です。
また、強い長期目標を持たない高度AIや、非エージェント的な超知能を扱う新しい理論も必要だと著者たちは述べています。（原報告書、Section 7.1）