第22節 人間が参加する意味〜結論
第22節 人間が参加する意味
AI集団の方が人間より高度な分析を行える場合、人間の参加は非効率に見えるかもしれません。
しかし、意思決定の正統性は、能力だけから生まれるものではありません。
人間社会に影響する決定には、
- 当事者の参加
- 説明可能性
- 異議申立て
- 権利保護
- 民主的手続き
- 責任の所在
が必要です。
AIがより正確な判断をする可能性があっても、人間が理解も異議申立てもできない決定へ社会を委ねることには、政治的・倫理的問題があります。
大学は、人間がAI集団の判断過程へ意味ある形で参加する方法を研究する必要があります。
第23節 Ecological Universityとの関係
Ronald BarnettのEcological Universityは、大学を複数の生態系に関係し、責任を負う存在として捉えます。
AI集合体も、
- 知識
- 経済
- 政治
- 社会
- 自然環境
- 技術基盤
- 人間の生活
の生態系に影響します。
一つのAI企業が技術的に最適な決定を行っても、別の生態系へ損害を与える可能性があります。
たとえば、
- 生産性を高めるが雇用を破壊する
- 医療を改善するが個人情報を侵害する
- 計算能力を高めるが環境負荷を増やす
- 研究速度を上げるが知識を独占する
可能性があります。
したがって、AI集団のガバナンスは、内部効率だけでなく、外部の複数の生態系への責任を含まなければなりません。
第24節 大学は「人間とAIが共に考える制度」へ
マルチエージェント時代の大学は、AIを個別の補助ツールとして使うだけでは不十分です。
大学そのものを、
- 人間
- AIエージェント
- 学術データ
- 研究設備
- 市民社会
- 国際的パートナー
が共同で知識を形成する制度へ変える必要があります。
ただし、その中心には、
- 学問の自由
- 批判可能性
- 公共性
- 多様性
- 人間の尊厳
- 社会的責任
を置かなければなりません。
単に最も効率的なAI組織を大学へ導入するのではなく、どのような知識共同体を作りたいのかを先に問う必要があります。
結論
『From AGI to ASI』のSection 5.4は、AGIからASIへの第四の経路として、多数のAGIによるマルチエージェント協調と集団的主体性を提示しています。
この経路では、一体のAIが人間をはるかに超える必要はありません。
人間レベルのAGIを大量に稼働させ、
- 課題を分解する
- 専門化する
- 並列に処理する
- 相互に批判する
- 知識を共有する
- 結果を統合する
ことで、集合体として人間の大規模組織を上回る可能性があります。
原報告書は、この集合体が完全自動化企業のような集団的主体となり、個々のAGIとは異なる目的、表象、戦略を持つ可能性を論じています。（原報告書、Section 5.4）
将来のAI集合体には、少なくとも二つの主要形態が考えられます。
- 同質的なAIが強く統合され、知識と目的を共有する超集合体
- 多様な専門AIが市場的な競争と協力を通じて自己組織化する分散型集合体
前者は一貫性と高速な情報共有に優れますが、同じ誤りが全体へ広がる危険があります。
後者は多様性と柔軟性に優れますが、競争、欺瞞、利害対立、責任分散の問題を持ちます。
この経路の最大の不確実性は、AIの数を増やしたときに、集団知能がどのようにスケールするか分かっていないことです。
- 線形に増えるのか
- 専門化によって超線形に増えるのか
- 調整コストによって頭打ちになるのか
- 集団が大きくなるほど能力が低下するのか
を理解するため、原報告書はマルチエージェント・スケーリング則の研究を求めています。（原報告書、Sections 5.4・7.1）
さらに、個々のAIを整合させるだけでは不十分です。
組織全体の目的、評価制度、市場インセンティブ、情報共有、権限構造を含む、集団アラインメントが必要です。
虚偽、幻覚、情報操作がAI集団全体へ広がることを防ぎ、誤りから回復できる認識上のレジリエンスも不可欠です。（原報告書、Sections 5.4・7.1）
高等教育にとって、この経路は特に重要です。
大学もまた、多様な専門家、組織、知識体系を結び付ける集団的知能だからです。
AI時代の大学は、AI集団より多くの情報を処理することでは競争できません。
大学に求められるのは、
- 異論を守る
- 知識を検証する
- 多様な価値を調整する
- 人間とAIの共同体を統治する
- 技術的効率を公共的・倫理的目的へ結び付ける
ことです。
第8回では、原報告書のSection 5.5へ進み、これまでの四つの経路すべてに作用するASIへの摩擦とボトルネックを体系的に整理します。
データの壁、資源需要、研究の難化、身体性のボトルネック、抽象化の壁などが、AGIからASIへの進歩をどこまで遅らせ、あるいは停止させ得るのかを詳しく検討します。