ERF Commentary〜結論
ERF Commentary
第23節 大学は「一人のAI」ではなく「AI組織」と競合する
高等教育に関して、Section 3から導かれる最も重要な示唆は、大学が将来向き合う相手は、一つのチャットボットではないということです。
現在、大学におけるAIの議論は、主として次の問題に集中しています。
- 学生がレポート作成にAIを使う
- 教員が教材作成にAIを使う
- 研究者が文献調査や文章校正にAIを使う
- 試験や評価をどのように変更するか
これらは重要ですが、AGIからASIへの展望から見れば、初期的な問題にすぎません。
将来の大学が向き合う可能性があるのは、
- 数千のAI研究者からなる研究所
- 24時間稼働するAI教育組織
- あらゆる学問分野を横断する知識システム
- 学習経験を即座に共有するAI教員集団
- 世界中の論文とデータを継続的に分析するAIネットワーク
です。
これは、大学の一部業務が自動化されるという問題ではありません。
知識を生産し、統合し、伝達する組織としての大学そのものが、人工的知的組織と並存する問題です。
第24節 大学の強みは情報処理速度ではなくなる
AIがデジタル知能の六つの優位性を十分に発揮するなら、大学が次の領域でAIと競争することは困難になります。
- 文献を読む速度
- 情報を記憶する量
- 多数の仮説を作る速度
- 教材を生成する量
- 定型的な分析能力
- 知識を反復して説明する能力
大学が知識の保有量や情報処理速度だけで存在意義を示そうとすれば、AIに対して不利になります。
そのため、大学の使命は、より明確に次の領域へ移る必要があります。
- 何を研究すべきかを公共的に判断する
- 技術的可能性と社会的望ましさを区別する
- 異なる価値観の対立を可視化する
- 知識の正統性と信頼性を検証する
- 人間の人格形成と社会参加を支える
- AIを含む知的主体の責任と統治を設計する
AIが知識を大量生産するほど、知識の意味、価値、使用目的を問う制度の重要性は高まります。
第25節 AIの集合知と大学の集合知
大学も本来、一種の集合知です。
個々の研究者の能力を超えて、
- 学部
- 研究科
- 研究所
- 図書館
- 学会
- 査読制度
- 国際共同研究
を通じて知識を形成します。
しかし、人間の集合知には摩擦があります。
専門分野間の壁、組織間競争、言語の違い、情報共有の遅れ、権威関係、予算制約、時間制約などです。
AI集合体は、少なくとも技術的には、これらの一部を低減する可能性があります。
一方で、AI集合体にも新たな問題があります。
- 同じ誤りが全個体へ高速拡散する
- 多様性が失われる
- 一つの価値観に過度に統一される
- 統括システムへ権力が集中する
- 誰が意思決定の責任を負うのか不明になる
したがって、AI集合知は人間の集合知より常に優れているとは限りません。
速度と整合性には優れていても、価値の多様性、批判、異論、責任の所在に弱点を持つ可能性があります。
ここに大学の重要な役割があります。
大学は、人間とAIの集合知を単純に効率化するだけでなく、異論、批判、多元性、公共性を組み込んだ知識共同体を設計する場になり得ます。
これはRonald Barnettの「Disagreeing Well」やEcological Universityの議論とも深く関係します。
第26節 人間の教育には、複製できないものがあるのか
AIは学習済み状態を複製できるかもしれません。
しかし、人間の教育は、知識を頭にコピーすることだけではありません。
人間は、
- 失敗する
- 他者と出会う
- 葛藤する
- 自分の無知を知る
- 責任を負う
- 社会の中で役割を引き受ける
- 自分が何者になるかを形成する
という過程を通じて成長します。
この意味で、教育とは情報転送ではなく、存在の形成です。
デジタルAIの教育が記憶や能力の複製によって行われるなら、人間の教育とは原理的に異なるでしょう。
AIが知識習得において人間を上回るほど、大学は、
人間に知識を与える場所
から、
人間がどのように生き、他者と関係し、責任ある主体になるかを学ぶ場所
へと、その使命を再定義する必要があります。
結論
『From AGI to ASI』のSection 3は、AGIとASIの違いを単純な知能指数の差として捉えていません。
この報告書において、
- AGIは、広範な認知的課題で中央値に位置する一人の人間（「平均的人間」）に匹敵するシステム
- ASIは、ほぼすべての重要領域で人間を超え、大規模な専門家組織をも上回るシステム
です。（原報告書、Section 3）
そして、両者を分けるのは個体としての「頭のよさ」だけではありません。
デジタル知能には、
- 高速な入出力
- 高速な内部処理
- 大規模な作業記憶と記憶容量
- 計算基盤からの独立
- 損失のない複製
- 学習経験の高速共有
という、生物的知能にはない構造的性質があります。これらは計算資源の増大とともに強まり、多数の人間レベルAGIを組織するだけでも、集合体として人間の大規模組織を超える可能性を生みます。（原報告書、Section 3）
しかし、ASIは全知でも全能でもありません。
情報を得るには観測が必要であり、現実を変えるには物理的な時間と資源が必要です。光速、エネルギー、計算複雑性、実験時間といった根本的な制約も受けます。（原報告書、Section 3）
したがって、ASIとは神のような存在ではありません。
それは、人間とは異なる方法で拡張、複製、共有、組織化されるために、人間の個人と組織を大幅に超える可能性を持つ、しかし依然として有限な知的システムです。
第3回では、原報告書のSection 4に進み、Universal AIとAIXIとは何か、機械知能の理論的上限をどのように考えるのか、そしてなぜ理論上最適な知能が現実には計算不可能なのかを、数式を最小限にしながら解説します。