第7節 AGIは社会を根本的に変えるのか、それとも「通常の技術」なのか〜第9節 指数関数的成長と「シンギュラリティ」
第7節 AGIは社会を根本的に変えるのか、それとも「通常の技術」なのか
この報告書は、AGIの社会的影響について一つの結論に固定していません。
一方には、AGIが経済、仕事、教育、科学、政治、文化、社会関係を根本的に変えるという見方があります。
AGIは一つの産業だけに適用される技術ではありません。ほぼすべての認知的活動に適用できる、汎用目的技術になり得ます。
蒸気機関、電気、コンピュータ、インターネットのように、多数の分野を同時に変えるだけでなく、それ以上に急速かつ広範な変化をもたらす可能性があります。
他方には、AIも最終的には「通常の技術」として社会に吸収されるという見方があります。
この立場では、AIはインターネットやスマートフォンと同様に大きな影響を与えるものの、社会制度、企業、政府、人々の行動が時間をかけて適応できる範囲にとどまります。
報告書はこの対立を決着させるのではなく、中心的な未解決問題として提示しています。
- AIの進歩は人間レベル付近で停滞するのか
- 人間集団を超えるASIへ進むのか
- 変化は数十年かけて進むのか
- 数か月から数年の急激な変化になるのか
- 社会は適応する時間を確保できるのか
この問いに答えるためには、AIの能力だけでなく、計算資源、エネルギー、アルゴリズム、組織、経済、規制、社会制度を同時に考える必要があります。
第8節 計算資源の増大は、なぜ重要なのか
報告書の導入部では、AIの進歩を支える三つの成長要因が説明されています。
第一は、半導体などのハードウェア性能の向上です。
第二は、計算設備への投資の増大です。
第三は、アルゴリズム効率の向上です。
アルゴリズム効率とは、同じ性能を達成するために必要な計算量が減少することを意味します。
同じハードウェアを使っていても、より優れた学習手法、モデル構造、最適化手法が開発されれば、実質的に使用可能な計算能力が増加したのと同じ効果が生じます。
報告書は、これら三つを組み合わせた「実効計算量」が、過去の傾向に基づけば非常に速い速度で増加してきたと論じています。ただし、その推計には大きな不確実性があり、将来も同じ成長率が継続する保証はありません。（arXiv）
重要なのは、個々のAIモデルの性能向上が止まったとしても、計算資源の増加によって、より多くのAIを同時に稼働させられる点です。
たとえば、人間と同程度のAIを千体稼働できる状態から、数年後に一億体稼働できるようになった場合、一体一体のAIが賢くなっていなくても、全体としての問題解決能力は大きく変わる可能性があります。
さらに、AIを人間より高速に動作させられるなら、研究や設計に要する時間も圧縮されます。
このため、AGIからASIへの移行は、一つのAIが突然天才になることで起こるとは限りません。
人間レベルのAIを大量に複製し、高速で並列稼働させるだけでも、集合体としては人間の大規模組織を超える可能性があります。
第9節 指数関数的成長と「シンギュラリティ」
報告書は、AIを支える実効計算量が一定の倍率で増え続ける場合、その成長は指数関数的になると説明します。
指数関数的成長では、増加量ではなく倍率が一定です。
毎年10増えるのではなく、毎年2倍、5倍、10倍になるような成長です。
指数関数的成長が続けば、初期には緩やかに見えても、後半には極めて大きな変化が生じます。
さらに、AIがAI研究そのものを加速するようになると、成長速度自体が上昇する可能性があります。
たとえば、
- AIがより優れたAIを設計する
- 改良されたAIがさらに効率よくAI研究を行う
- そのAIが、さらに優れた次世代AIを設計する
という循環です。
これが再帰的自己改善です。
この循環が強く働けば、単なる指数関数的成長を超え、成長率そのものが上昇する超指数関数的な動態が生じる可能性があります。
これが、いわゆる知能爆発や技術的シンギュラリティと結び付けられる考え方です。
報告書は、I・J・グッド、レイ・ソロモノフ、レイ・カーツワイル、ニック・ボストロムなどの議論を参照しつつ、AIによるAI研究の自動化が急激な能力向上を引き起こす可能性を検討しています。（arXiv）
ただし、報告書はシンギュラリティを当然視していません。
現実の物理システムには、エネルギー、資源、製造能力、実験時間、データ、通信速度などの限界があります。
急速な成長も、通常はどこかで摩擦に直面し、成長率が低下します。
したがって、重要な研究課題は、「知能爆発が起こるか否か」を抽象的に論争することではありません。
どの段階で、どのような制約が現れ、どの程度成長を遅らせるのかを、具体的に検証することです。