第2節 AGIとASIの境界は、個体ではなく組織にあるかもしれない〜第5節 研究領域1
第2節 AGIとASIの境界は、個体ではなく組織にあるかもしれない
この報告書の最も重要な視点の一つは、ASIを一体の巨大な超知能としてだけ考えないことです。
仮に一体一体のAIが人間レベルを大きく超えなくても、
- 高速に複製される
- 24時間稼働する
- 知識を共有する
- 多数の課題を並列処理する
- 柔軟に組織を変更する
ことができれば、集団全体としてASIに相当する能力を持つ可能性があります。
人間社会でも、大学、企業、政府、研究機関は、個人を超える知的能力を持ちます。
しかし人間組織には、
- 教育に長い時間が必要
- 情報共有が遅い
- 記憶が不完全
- 調整コストが大きい
- 人数を急速に増やせない
という制約があります。
デジタルAGI集団では、これらの一部が大幅に弱まる可能性があります。
したがって、Section 6の重要な問題は、
一体のAGIをどこまで賢くできるか。
だけではありません。
どの種類の課題において、AGI集団は個体能力を超える集合知を形成できるのか。
です。
研究開発の大部分が、適切に分解、並列化、統合できるなら、個体AGIの能力が停滞しても、集団化によってASI領域へ進める可能性があります。
反対に、重要課題の多くが高度に逐次的で、一人または一つの統合的主体による深い理解を必要とするなら、集団化の効果は限定的です。
第3節 AI能力の進歩とは何を意味するのか
Section 6では、「進歩」という言葉自体も問い直されています。
AI研究では、進歩はしばしば、
- ベンチマーク得点
- 損失関数
- 正答率
- パラメータ数
- 計算効率
によって測定されます。
しかし、AGI以後の社会で重要なのは、狭い技術指標だけではありません。
原報告書は、研究・技術上の進歩を、理論的発見が社会的に利用可能な技術へ変わることまで含むものとして考えています。
その一つの指標として、AIによる自動化が、従来なら100年かかる経済成長を10年へ圧縮するような「economic compression――経済的圧縮」を例示しています。（原報告書、Section 6）
しかし、社会的・文化的進歩を、単純な技術指標やGDPだけで測ることはできません。
著者たちは、社会文化的文脈における「進歩」を、
- 個人と集団の自律性を維持・向上させる
- 人間の繁栄と尊厳を促進する
- その社会において広く有益と認められる
社会技術的発展として捉えています。（原報告書、Sections 6・7）
これは非常に重要な限定です。
AI能力が向上しても、
- 人間の自律性が失われる
- 権力が極端に集中する
- 社会参加が弱まる
- 人間の尊厳が損なわれる
なら、それを無条件に社会的進歩とは呼べません。
第4節 原報告書の研究アジェンダ
Section 7.1は、この報告書の中でも特に重要な部分です。
著者たちは、AGIからASIへの移行を理解するための研究課題を、七つの領域に整理しています。
- スケーリングの摩擦とボトルネック
- 定量的予測
- ASIのベンチマーキング
- 再帰的自己改善の動態
- マルチエージェント・スケーリング
- 超知能の理論的基礎
- AI安全性、アラインメント、社会文化的問題
著者たちは、これらを一つの専門分野だけでは扱えない、世界規模の学際的研究課題と位置付けています。（原報告書、Section 7.1）
第5節 研究領域1
スケーリングの摩擦とボトルネック
第一の研究領域は、第8回で扱った摩擦を、測定可能な問いへ変えることです。
5.1 データの壁
研究すべき問いは次のとおりです。
- データ収集量をどこまで増やせるのか
- AIによるデータ生成は、基盤モデルの継続的改善に役立つのか
- 人間がAIを使うことで生成するデータは、新しい学習資源になるのか
- AI生成データは既存能力の反復にとどまるのか
- 他者の経験を観察するだけで、AIは安全に計画や行動を学べるのか
- 第三者データから学ぶことで、自己欺瞞や誤った世界理解が生じないか
原報告書は、データの量だけでなく、第三者の経験から学ぶことが、どの条件で有効または危険になるかを研究課題としています。（原報告書、Section 7.1）
5.2 計算資源と知能の関係
次に必要なのは、
どの種類の課題で、計算量の増加が知能向上につながるのか。
を明らかにすることです。
より多くの計算が、
- 一部の限定的課題だけに有効なのか
- 広範な知能向上につながるのか
- 個体能力より集団能力の向上に有効なのか
- モデル改善とどの程度代替可能なのか
を測定する必要があります。
また、
- 量的スケーリング
- アルゴリズム改善
- ハードウェア効率
- 経済価値
を一つのモデルの中で扱わなければなりません。
5.3 パラダイム転換の予測
真の技術的パラダイム転換は、本質的に予測困難です。
それでも、
- 現在のモデルに不足する機能
- 現在のアーキテクチャの理論的限界
- 計算効率の停滞
- 継続学習や世界モデルの欠如
を研究すれば、次の転換が必要になる条件を部分的に予測できるかもしれません。
原報告書は、特定の技術方式に依存しないAGI・ASIの基礎理論を発展させることを求めています。（原報告書、Section 7.1）
5.4 研究の難化
研究課題は、
- AI研究がどの程度難化しているか
- 一定の能力向上に必要な研究資源がどの速度で増えているか
- AIが研究を何％効率化すれば、この難化を相殺できるか
- 人工研究者の増加が、研究の限界効用低下を上回るか
を測定することです。
また、純粋な知的労働が完全に自動化された後も、
- 実験
- 観測
- 製造
- 社会的承認
のどこにボトルネックが残るかを分析する必要があります。
5.5 抽象化と身体性
重要な研究課題は、
人間生成データを中心に学習するAIが、人間の概念体系に根本的に制約されるのか。
という問題です。
さらに、
- 新しい概念形成には物理世界との相互作用が必要か
- 実験の現実時間が知能向上速度をどこまで抑えるか
- シミュレーションでどこまで代替できるか
- どの分野が身体性ボトルネックを受けやすいか
をモデル化する必要があります。（原報告書、Section 7.1）