はじめに〜第2節 「Group Agent――集団的主体」とは何か
はじめに
これまでの各回では、AGIからASIへ至る三つの経路を検討してきました。
第一は、計算資源、モデル、データ、推論時間を増大させるスケーリングです。
第二は、Transformerや現在の学習方式を発展または置換するアルゴリズム的パラダイム転換です。
第三は、AIがAI研究を加速し、改良されたAIが次の改善をさらに加速する再帰的自己改善です。
Google DeepMindの『From AGI to ASI』が示す第四の経路は、これらとは少し異なります。
この経路では、一体のAIを極端に賢くすることが必須ではありません。
人間レベルのAGIを多数稼働させ、それらを適切に組織し、分業させ、協力または競争させることによって、集団全体として一体のAIや人間の大規模組織を超える能力を生み出す可能性を考えます。
原報告書はこれを、
Multi-agent coordination and group agency――マルチエージェント協調と集団的主体性
と呼んでいます。
その中心的な問いは、次のとおりです。
一体一体は人間レベルにとどまるAGIでも、数千、数百万、あるいは数十億の個体が協力すれば、集合体としてASIになり得るのか。
その集合体は、単なる多数のAIではなく、一つの意思、目的、記憶、戦略を持つ「集団的主体」になり得るのか。
そのようなAI組織を、人間は理解し、統治し、制御できるのか。
原報告書は、多数のAGIが複雑な集合構造を形成し、完全自動化企業のような「Group Agent――集団的主体」へ発展する可能性を挙げています。それは個々の構成員とは異なる表象、目的、動機を持ち、単一のAGIでは扱えない問題を解決する可能性があります。（原報告書、Section 5.4）
第1節 なぜ集団は個人より賢くなり得るのか
人類の最も大きな知的成果の多くは、一人の天才だけによって生み出されたものではありません。
現代の科学、医学、工学、法律、行政、宇宙開発などは、多数の専門家が分業し、長期間協力することで成立しています。
たとえば、新しい医薬品を開発するには、
- 基礎生物学者
- 化学者
- 薬理学者
- 臨床医
- 統計家
- 製造技術者
- 規制専門家
- 経営者
などが関与します。
一人の人間が、これらすべての専門知識を最高水準で持つことは困難です。
しかし、研究所、大学、企業といった組織は、異なる能力を持つ人々を結び付けることで、一人では解けない問題を解決します。
原報告書は、現代の研究機関が、一人の博識な研究者では扱えない学際的課題に取り組めるのと同じように、AGI集団も個々のAGIの認知的限界を超え得ると論じています。（原報告書、Section 5.4）
1.1 個体の知能と組織の知能
一人の構成員がどれほど優秀でも、組織全体の能力とは同じではありません。
組織の能力は、
- 人数
- 専門性
- 情報共有
- 権限構造
- 作業分担
- 意思決定方法
- 相互評価
- 調整能力
によって決まります。
したがって、マルチエージェントASIを考えるときには、
一体のAGIがどれほど賢いか。
だけでは不十分です。
多数のAGIがどのように組織されているか。
を考える必要があります。
同じ能力のAIを同じ数だけ用意しても、組織の構造によって成果は大きく変わり得ます。
1.2 集合知は人数の合計ではない
100人の集団が、一人の100倍賢いとは限りません。
同じことを全員が重複して行えば、成果はほとんど増えません。
情報交換に時間がかかり、意思決定が混乱すれば、一人で行うより悪くなることもあります。
反対に、
- 課題を適切に分解する
- 異なる仮説を並行して検討する
- 相互に誤りを発見する
- 専門知識を組み合わせる
- 最良の結果を統合する
ことができれば、集団の能力は構成員の単純な合計を超える可能性があります。
原報告書は、専門化したAGI間で効率的に課題を委任し、複雑な問題を管理可能な部分へ分解できれば、集団が「部分の総和を上回る」創発的な認知能力を持ち得るとしています。（原報告書、Section 5.4）
第2節 「Group Agent――集団的主体」とは何か
原報告書は、単なるAI集団だけでなく、Group Agentという概念を導入します。
集団的主体とは、複数の構成員から成りながら、全体として、
- 世界についての認識
- 目標
- 計画
- 記憶
- 意思決定
- 行動
を持つ組織です。
人間社会では、企業、大学、政府、国際機関などが、その例として考えられます。
企業を構成する個々の社員は交代します。
しかし企業は、
- 目的
- ブランド
- 契約
- 資産
- 戦略
- 組織記憶
を維持します。
この意味で、組織全体は個々の構成員とは異なる継続的な主体として行動します。
原報告書は、AGIが組織化されることで、個々のAGIとは異なる表象状態や動機状態を持つ集団的主体が成立し得ると論じています。（原報告書、Section 5.4）
2.1 完全自動化企業
原報告書が挙げる分かりやすい例が、fully automated corporation――完全自動化企業です。
この企業では、
- 市場調査
- 製品開発
- 財務管理
- 契約交渉
- 採用と配置
- 広告
- 顧客対応
- 研究開発
- 経営判断
の大部分をAIエージェントが行います。
それぞれのAIは、財務、技術、法律、販売などに専門化しているかもしれません。
経営AIが全体を統括し、下位AIへ課題を割り当て、成果を評価し、資源を再配分する可能性もあります。
この企業が一貫した目的と戦略を持ち、環境の変化へ対応し、長期間行動するなら、それは単なる道具の集合ではなく、一つの人工的な組織主体に近づきます。
2.2 構成員とは異なる目的
集団的主体の目的は、個々の構成員の目的と完全には一致しない場合があります。
人間の企業でも、個々の社員は、
- 給与を得たい
- 専門能力を高めたい
- 家族との時間を守りたい
と考えるかもしれません。
一方、企業全体は、
- 利益を増やす
- 市場占有率を拡大する
- 競争相手に勝つ
という目的を持ちます。
同様に、AI集団全体にも、個々のAIには還元できない組織目標が生じる可能性があります。
この点は安全性の観点から重要です。
個々のAIが人間の指示に従うよう調整されていても、組織全体の競争圧力、評価指標、資源配分によって、予想外の集団的行動が生じるかもしれないからです。