第3回　Universal AIとは何か

Google DeepMind「From AGI to ASI」完全解説｜第3回 / 全9回

機械知能の理論的上限と、実現不可能な「完全な知性」

シリーズ　ERF Research Companion Series No.1

版　Publication Edition / Version 1.0 / 2026

キーワード　Universal AI / AIXI / 知能理論 / アラインメント

概要

第2回では、Google DeepMindの『From AGI to ASI』が、AGIを中央値に位置する一人の人間（本シリーズでいう「平均的人間」）におおむね匹敵する汎用知能、ASIを大規模な人間専門家集団を広範に上回る人工知能として捉えていることを確認しました。

しかし、ここでさらに根本的な問いが生じます。

本文を読むPublication Edition PDF
詳細目次
  1. はじめに
  2. 第1節　「下からの予測」と「上からの限界」
  3. 第2節　Universal AIとは何か
  4. 第3節　エージェントと環境
  5. 第4節　知能を「目標達成能力」として捉える
  6. 第5節　未知の世界をどう予測するのか
  7. 第6節　プログラムの短さが「単純さ」になる
  8. 第7節　一つの仮説に決めない
  9. 第8節　予測するだけでは知能ではない
  10. 第9節　「すべての可能な未来」を考える
  11. 第10節　探索と活用
  12. 活用
  13. 探索
  14. 第11節　なぜAIXIは「最適」と呼ばれるのか
  15. 第12節　AIXIは何を知らないのか
  16. 第13節　AIXIは意識を必要としない
  17. 第14節　なぜAIXIは計算不可能なのか
  18. AIXIの決定的限界
  19. 第15節　無限の仮説と無限の計画
  20. 第16節　AIXIの近似
  21. 第17節　計算効率も知能の一部である
  22. 第18節　報酬関数はどこから来るのか
  23. 第19節　報酬ハッキング
  24. 第20節　世界モデルは正しくても、価値判断は導けない
  25. 第21節　大規模言語モデルとAIXIは同じではない
  26. 現代AIとの比較
  27. 第22節　現代AIは近似とヒューリスティックの集合である
  28. 第23節　AIXIはASIの設計図ではない
  29. 第24節　ASIとUniversal AIは同じではない
  30. Universal AIから見るASI
  31. ASI
  32. Universal AI
  33. 第25節　人間レベルは低い中間地点かもしれない
  34. 第26節　知能の上限と成果の上限は違う
  35. 第27節　AIXIから見えるアラインメント問題
  36. ERF Commentary
  37. 第28節　Universal AIは大学の理想と似ているか
  38. 第29節　教育を報酬最大化として扱う危険
  39. 第30節　大学は目的を問い直す制度である
  40. 第31節　BarnettのEcological Universityとの関係
  41. 第32節　Universal AIよりも「賢い社会」が必要である
  42. 結論