第16節 人間レベルのAIを大量に動かすだけで何が起きるか〜第22節 人間とASIの比較は動く標的である
第16節 人間レベルのAIを大量に動かすだけで何が起きるか
この議論から、重要な結論が導かれます。
個々のAIが人間レベルを大幅に超えなくても、多数のAGIを稼働させることで、集合体として超人的能力が生じる可能性がある。
仮に一体のAGIが「平均的人間」と同程度だとしても、
- 休まず活動する
- 高速に複製できる
- 多数を並列に動かせる
- 記憶を正確に共有できる
- 学習成果を即座に展開できる
ならば、人間集団とは異なる能力を持ちます。
たとえば、百万体の人間レベルAGIが、科学研究に従事したとします。
しかも、その各個体が24時間活動し、結果を即時共有し、最良の知見を全体へ配布できるなら、人間百万名の研究者集団と同じではありません。
組織内のコミュニケーション損失、教育時間、忘却、情報の囲い込みなどが大幅に減る可能性があるためです。
原報告書は、将来のAI社会として、均質な多数のAIが継続的に知識を共有する超集合体や、専門化した多様なAIが市場のような仕組みを通じて自己組織化する構造などを想定しています。（原報告書、Section 3）
第17節 デジタル知能に弱点はないのか
原報告書は、デジタル知能の優位性だけを列挙しているわけではありません。
いくつかの不利や不確実性も指摘しています。
17.1 現実世界との接続
デジタル知能が物理世界を認識し、働きかけるには、
- センサー
- 通信機器
- ロボット
- デジタル・アナログ変換
が必要です。
AI内部の処理能力が高くても、現実世界から情報を取得する速度や、物理的な行動を実行する速度には制約があります。
17.2 エネルギー効率
原報告書は、アナログ計算が原理的にデジタル計算よりもエネルギー効率に優れる可能性にも言及しています。
人間の脳は比較的小さな電力で、知覚、運動、学習、記憶を同時に行います。
現在の高度なAIは、大規模なデータセンターや電力を必要とします。
17.3 抽象化の問題
人間は、限られた入出力帯域の中で生きているため、世界について深い内部モデルや抽象概念を形成する必要があったという議論があります。
AIは高速で大量の情報を処理できますが、そのことが逆に、人間のような粗くても強力な抽象化能力を獲得しにくくする可能性があります。
原報告書は、これを後に扱うAbstraction Barrier――抽象化の壁と結び付けています。人間のデータから学ぶことで人間的抽象を獲得できる可能性はあるものの、それで十分かは未解決です。（原報告書、Section 3）
第18節 ASIの社会は人間社会と同じではない
AIが複製可能で、記憶を共有でき、停止と再開ができるなら、AIの集団は人間社会とは異なる性質を持つでしょう。
人間社会では、
- 一人ひとりが異なる身体を持つ
- 経験を完全には共有できない
- 人は老化し、死亡する
- 教育には長い時間がかかる
- 組織が大きくなるほど調整が難しくなる
という条件があります。
AI社会では、これらの前提の一部が成立しない可能性があります。
同一のAIを大量複製した集団では、初期知識や価値観を共有できます。
一体が学んだ内容を、他の個体へ短時間で反映できるかもしれません。
過去の状態から復元できれば、デジタル世界における「死」の意味さえ、人間とは異なります。
このため原報告書は、ASIの到来を単に「非常に賢い道具が現れること」としてではなく、人間とは異なる社会進化の原理を持つ知的存在の出現として捉える可能性を示しています。（原報告書、Section 3）
第19節 ASIは全知ではない
ASIにも限界がある
原報告書は明確に、
ASI is neither omniscient nor omnipotent.
すなわち、ASIは全知でも全能でもないと述べています。（原報告書、Section 3）
ASIが人間を大幅に超えていても、知らないことはあります。
たとえば、未来の偶発的出来事、まだ観測されていない情報、原理的に予測困難な複雑系、他者の秘密情報などを完全に知ることはできません。
情報を得るためには、観測、実験、通信が必要です。
計算能力が大きくても、必要なデータが存在しなければ、確実な結論を得ることはできません。
第20節 ASIは全能ではない
知能が高いことと、何でも実行できることは同じではありません。
ASIが新薬の設計を短時間で行えても、
- 化合物を製造する
- 動物実験をする
- 臨床試験を行う
- 安全性を長期間観察する
- 工場を建設する
- 規制当局の承認を得る
には現実の時間と資源が必要です。
新しい半導体を設計できても、工場建設、資源採掘、製造工程には物理的制約があります。
極めて優れた計画を立てられても、他者、社会制度、自然環境を自由に支配できるとは限りません。
知能は、現実へ働きかける能力の一部にすぎません。
第21節 物理法則と計算理論の限界
原報告書は、あらゆる知的システムが受ける根本的制約として、次のようなものを挙げています。
- 光速による情報伝達速度の上限
- 計算に必要なエネルギーの下限
- 限られた空間に保存できる情報量
- 有限の資源で実行できる計算量
- 問題自体の計算複雑性
- 現実時間を必要とする観測や実験
これらは、人間だけの弱点ではありません。
ASIであっても物理宇宙の中に存在する以上、物理法則と計算可能性の制約を受けます。（原報告書、Section 3）
したがって、ASIの正しいイメージは「神」ではありません。
むしろ、
人間より桁違いに優れた知的能力を持つが、情報、物理、時間、資源の制約下にあるシステム
です。
第22節 人間とASIの比較は動く標的である
原報告書には、もう一つ興味深い問題があります。
人間はAIの支援を受けることで、自分たちの集団能力を高められるため、「人間対AI」という比較基準自体が変化する可能性があります。
将来の人間専門家は、現在の人間だけで仕事をするのではなく、AIアシスタント、検索システム、自動実験設備、意思決定支援を利用するでしょう。
そうすると、比較は次のようになります。
- AIを使わない一人の人間
- AIを使う一人の人間
- AIを使う専門家集団
- 自律的AI集団
- 人間とAIの混成組織
したがって、ASIが「人間を超える」と言うとき、比較対象となる人間社会もAIによって強化されています。
この意味で、AGI・ASIの基準は固定されたものではなく、技術の進歩とともに動く標的です。