第3節 二つの主要な組織形態〜第5節 多様性はなぜ必要なのか
第3節 二つの主要な組織形態
原報告書は、将来のAI集合体について、対照的な二つの可能性を示しています。
- 高度に統合された均質な超集合体
- 多様な専門AIが市場的に自己組織化する分散型システム
実際には、この中間形態も多数存在するでしょう。
3.1 均質な超集合体
第一の形は、非常に多数の似たAIが、知識、記憶、目標を継続的に共有する集合体です。
原報告書は、このイメージを、非常に強い内部協力を持つ「Borg Collective」のようなものとして例示しています。（原報告書、Section 5.4）
この集合体では、
- 同じ基盤モデルを使用する
- 学習成果を即座に共有する
- 組織全体が共通目標を持つ
- 作業を中央的に割り当てる
- 個体間の競争が少ない
- 情報共有の損失が小さい
可能性があります。
利点
- 高速な知識共有
- 意思決定の一貫性
- 作業の重複回避
- 大規模な並列処理
- 個体の故障に対する冗長性
- 全体計画の維持
弱点
- 同じ誤りが全体へ拡散する
- 発想や価値観の多様性が減る
- 中央統括部分の障害が全体へ影響する
- 一つの誤った目標に全体が集中する
- 異論や内部批判が生じにくい
非常に効率的である一方、全体が同じ誤認に陥る危険があります。
3.2 多様なAIによる分散型市場
第二の形は、異なる企業、モデル、専門性、目的を持つAIが、市場のような仕組みを通じて協力・競争する構造です。
原報告書は、AIサービスやツールの市場動態から、こうした集合体が意図的設計なしに自己組織化する可能性を挙げています。（原報告書、Section 5.4）
たとえば、あるAIが研究課題を公開し、
- 文献調査AI
- 数学AI
- 実験設計AI
- コード作成AI
- 評価AI
が、それぞれサービスを提供します。
成果の良いAIは多く利用され、資源を獲得し、さらに改善されます。
利点
- 専門性の多様性
- 複数の方法による競争
- 一つの失敗が全体へ波及しにくい
- 新しいAIが参入しやすい
- 状況に応じた柔軟な組合せ
弱点
- 情報共有が不完全
- 利害対立が起こる
- 相互に欺く可能性がある
- 協力より競争が過剰になる
- 共通利益より局所的利益が優先される
- 責任の所在が不明になる
この形態は柔軟で多様ですが、統治と協調が難しくなります。
3.3 中央集権と分散型の中間
現実のAI組織は、完全な中央集権でも完全な市場でもなく、その中間になる可能性が高いでしょう。
たとえば、
- 一つの基盤モデルを共有する
- 専門エージェントは独立して活動する
- 中央AIが最終判断を行う
- 一部の作業は市場競争で割り当てる
- 重要課題だけ人間が承認する
といった混合構造です。
したがって、重要なのは「中央集権か分散型か」という二者択一ではありません。
どの機能を中央化し、どの機能を分散させるかという制度設計です。
第4節 認知的分業
原報告書がマルチエージェント経路の中心に置くのが、cognitive division of labour――認知的分業です。
人間社会では、複雑な問題を専門分野に分けます。
AI集団でも、
- 問題設定
- 情報収集
- 仮説形成
- 計算
- 実験
- 批判
- 統合
- 意思決定
を異なるAIへ分担できます。
この仕組みにより、一つのAIアーキテクチャが持つ文脈長、記憶、学習データ、処理能力などの限界を、集団として補える可能性があります。
原報告書は、専門化したAGIネットワークが、単一アーキテクチャの制約を回避し、巨大規模の並列かつ異質な推論を行う「モジュール型超知能」を形成し得ると論じています。（原報告書、Section 5.4）
4.1 問題の分解
複雑な課題を集団で解くには、まず適切に分解する必要があります。
たとえば、新しいエネルギー政策を設計する場合、
- 技術的可能性
- 発電コスト
- 環境影響
- 地域経済
- 法制度
- 国際関係
- 世論
- 長期的リスク
を別々に分析できます。
しかし、課題の分解を誤れば、部分的には正しい分析を統合しても、全体として誤った結論になります。
したがって、集合知には、部分課題を処理する専門AIだけでなく、
- 問題構造を理解するAI
- 課題を分解するAI
- 部分結果を統合するAI
- 全体の矛盾を検出するAI
が必要です。
4.2 並列化できる問題
多数のAIによる能力向上が特に大きいのは、並列化できる問題です。
たとえば、
- 膨大な文献の検索
- 多数の設計候補の評価
- 複数の仮説の検証
- 大量のソフトウェアテスト
- 異なる市場シナリオの分析
です。
これらは多数のAIへ分割し、同時に処理できます。
4.3 並列化しにくい問題
一方で、すべての問題が分割できるわけではありません。
前の推論結果が出なければ次へ進めない問題では、AIの数を増やしても大幅には速くなりません。
たとえば、
- 長い論理証明の一部
- 逐次的な実験
- 現実時間を必要とする観測
- 一貫した長期交渉
- 単一の統合的判断
などです。
原報告書が「マルチエージェント・スケーリング則」の必要性を提案している理由の一つは、どの種類の課題で集団化が有効なのかが、まだ十分分かっていないためです。（原報告書、Sections 5.4・7.1）
第5節 多様性はなぜ必要なのか
人間の集合知には、大きく二つの基盤があります。
第一は、並列化によって個人の処理容量を超えることです。
第二は、異なる専門性や視点による多様性です。
原報告書も、人間組織の集合知が主として、並列化と専門化による多様性の二つから生じると整理しています。均質なAI集団が、初期プロンプトや文脈を変えるだけで本当の相乗効果を生めるかは、未解決問題とされています。（原報告書、Section 5.4）
5.1 同じモデルを多数動かす場合
同じAIモデルを1000体動かしても、全員が同じ方法で考え、同じ誤りをするなら、知能はあまり増えません。
しかし、
- 異なる初期条件を与える
- 異なる役割を持たせる
- 異なる情報へアクセスさせる
- 異なる探索方針を取らせる
- 相互批判させる
ことで、ある程度の多様性を作れる可能性があります。
ただし、それが人間社会の異なる文化、経験、専門性に匹敵する深い多様性になるかは分かりません。
5.2 異なるモデルを組み合わせる場合
別々に開発されたAIを組み合わせれば、
- 学習データ
- アーキテクチャ
- 評価基準
- 推論方法
- 安全設計
が異なるため、本質的な多様性を得られる可能性があります。
しかし、異質なAI同士は、
- 通信形式が違う
- 目的が一致しない
- 信頼性を評価しにくい
- 相互理解が難しい
という問題も持ちます。
多様性は集合知を高める一方、調整コストも増やします。