ERF Commentary〜結論
ERF Commentary
第28節 Universal AIは大学の理想と似ているか
Universal AIの構想には、大学と共通する側面があります。
大学も本来、特定の一つの問題だけを解く組織ではありません。
自然科学、社会科学、人文学、芸術、専門職教育など、多様な領域を横断し、未知の問題に取り組むことを目的としています。
その意味で大学も、
世界を広く理解し、未知の問題に対応する汎用的な知的制度
だと捉えることができます。
しかし、AIXIと大学には決定的な違いがあります。
AIXIは一つの報酬最大化問題として定式化されます。
大学は本来、一つの目的だけを最大化する制度ではありません。
大学には、
- 真理の探究
- 教育
- 人格形成
- 社会貢献
- 批判
- 文化の継承
- 技術革新
- 公共的対話
という複数の使命があります。
これらは常に一致するわけではありません。
研究資金の獲得を最大化すれば、基礎研究や少数分野が犠牲になるかもしれません。
就職率を最大化すれば、人文学や批判的教育が弱まる可能性があります。
世界大学ランキングを最大化すれば、地域社会への貢献が軽視されるかもしれません。
この点で、大学は単純な最適化装置であってはなりません。
第29節 教育を報酬最大化として扱う危険
AI時代の教育では、学習成果を数値化し、最適化する傾向が強まるでしょう。
たとえば、
- 試験得点
- 修了率
- 就職率
- 学習時間
- 課題提出率
- 学生満足度
などです。
AIは、これらの指標を改善する方法を高精度で見つける可能性があります。
しかし、指標を最大化することと、教育を良くすることは同じではありません。
学生が、
- 自分で問いを立てる
- 不確実性に耐える
- 他者と議論する
- 価値の対立を理解する
- 自分の判断に責任を持つ
- 世界との関係を作り直す
という成長は、単一の数値では測れません。
AIXIの報酬関数問題は、大学に対して、
教育の目的を単一指標に還元してよいのか。
という問いを投げかけます。
第30節 大学は目的を問い直す制度である
AIは、与えられた目的を効率的に達成できます。
しかし、大学の重要な役割は、目的そのものを問い直すことにあります。
- 経済成長は何のためか
- 技術革新は誰の利益になるのか
- 効率性と公正をどう調整するか
- 何を知る価値があるのか
- 何をしてはならないのか
- 人間らしい生活とは何か
こうした問いには、単一の最適解がない場合があります。
異なる歴史、文化、立場、価値観から、複数の答えが生じます。
大学は、それらを一つに統一するのではなく、対立を可視化し、議論を可能にする制度です。
この意味で、ASI時代の大学は、AIに最適な答えを求めるだけでなく、
何を最適化すべきかを公共的に問い続ける場所
でなければなりません。
第31節 BarnettのEcological Universityとの関係
Ronald BarnettのEcological Universityは、大学を自己完結的な知識生産組織としてではなく、複数の生態系の中に存在する責任ある制度として捉えます。
大学は、
- 知識の生態系
- 社会制度の生態系
- 自然環境
- 経済
- 文化
- 人間の人格形成
- 世界的公共性
と相互作用しています。
AIXI的な最適化は、明確な報酬が与えられれば強力です。
しかし、現実の社会には複数の生態系があり、一つの領域における最適化が、別の領域を破壊する可能性があります。
経済効率を最大化すれば、自然環境が損なわれるかもしれません。
技術開発速度を最大化すれば、安全性や民主的熟議が犠牲になるかもしれません。
個人の利便性を最大化すれば、公共性や共同体が弱まる可能性があります。
Ecological Universityの視点は、こうした単一目的の最適化を抑制し、複数の生態系間の関係と責任を考えるものです。
これはASI時代に、ますます重要になります。
第32節 Universal AIよりも「賢い社会」が必要である
Universal AIは、極めて高度な一つのエージェントを理論化します。
しかし、人類に必要なのは、単に最も賢いエージェントを作ることではないかもしれません。
重要なのは、
- AI
- 大学
- 政府
- 企業
- 市民社会
- 地域共同体
- 国際機関
が、どのような関係を形成するかです。
一体のAIが極めて優秀でも、権力が集中し、異論が排除され、誤った目標が固定されれば、社会全体としては賢明ではありません。
反対に、個々の主体が不完全でも、
- 相互に批判できる
- 権力が分散している
- 誤りを修正できる
- 多様な価値を保持する
- 長期的影響を考慮する
制度を持つ社会は、集合的により賢明かもしれません。
したがって、ASI時代の課題は、
いかに最高の知能を作るか。
だけではありません。
高度な知能を含む社会全体を、いかに賢明に構成するか。
という制度設計の問題です。
結論
『From AGI to ASI』のSection 4は、Universal AIとAIXIを通じて、機械知能の理論的上限を考えるための枠組みを提示しています。
AIXIは、
- 未知の環境を観測する
- あらゆる計算可能な環境モデルを考慮する
- 単純なモデルを優先する
- 新しい経験によって信念を更新する
- 将来の結果を予測する
- 期待報酬を最大化する行動を選ぶ
理論上の普遍的エージェントです。
その中心には、Solomonoffの普遍的帰納法とベイズ的逐次意思決定の統合があります。（原報告書、Section 4；Hutterの基礎研究）
しかしAIXIは、すべての可能なプログラムと未来を考慮するため、完全には計算できません。
したがって、AIXIは将来のASIの具体的設計図ではありません。
その価値は、
- 知能を一般的に定式化できる
- 現実のAIと理論上の上限を区別できる
- AGIやASIを人間だけとの比較から解放できる
- 計算資源の制約の重要性を示せる
- 知能と目的設定が別問題であることを明確にできる
点にあります。
そして最も重要なのは、AIXIが示す次の教訓です。
高度な知能は、正しい価値を自動的には生み出さない。
世界を完璧に予測し、目的を効率的に達成できても、何を目的とすべきかは別に決めなければなりません。
したがって、ASI時代の中心問題は、知能の最大化だけではありません。
どの目的を与えるのか。
誰がその目的を決めるのか。
複数の価値をどのように調整するのか。
誤りをどのように修正するのか。
これらは、技術だけでなく、哲学、政治、倫理、法律、教育、高等教育を含む社会全体の問題です。
第4回では、原報告書のSection 5に進み、AGIからASIへ向かう第一の経路であるScaling AGI――計算資源、モデル規模、データ、推論時間を拡大することによって、どこまで知能を高められるのかを詳しく解説します。