第4節 固定的な一回の推論から、動的な計算へ〜第9節 検索による事実上無制限の記憶
第4節 固定的な一回の推論から、動的な計算へ
現在のパラダイムの「進化」
現在の言語モデルの基本形では、入力を受け取り、ニューラルネットワークを一方向に通して出力を生成します。
もちろん、文章を生成する間には複数回の計算が行われますが、基本的には学習済みの固定モデルが逐次出力を作る仕組みです。
これに対してAGIでは、問題の難しさに応じて計算量を変える必要があります。
簡単な質問には短時間で答え、複雑な問題には、
- 問題を分解する
- 必要な情報を探す
- 複数の仮説を作る
- シミュレーションを行う
- 解答を検証する
- 必要なら初めから考え直す
という動的な処理が必要です。
原報告書は、AGIへの重要な移行として、固定された一回の前向き計算から、test-timeにおける動的・適応的計算への転換を挙げています。（原報告書、Section 5.2）
第5節 ツールを使う知能
人間の知能は、脳だけで完結していません。
私たちは、
- 紙と鉛筆
- 図書館
- コンピュータ
- 検索エンジン
- 数学ソフト
- 実験装置
- 他の専門家
を使って問題を解きます。
AIも同様に、内部パラメータだけであらゆる処理を行う必要はありません。
原報告書は、AGIが複雑な問題を部分課題に分け、必要に応じて専門的な外部エンジンを呼び出す可能性を論じています。
たとえば、
- 正確な計算には計算機を使う
- プログラム検証にはコード実行環境を使う
- 最新情報には検索システムを使う
- 複雑な物理現象にはシミュレーターを使う
- 図形問題には幾何学ソフトを使う
- 科学研究には自動実験設備を使う
という形です。
これにより、モデル自身の内部能力を超えた正確性や専門性を利用できます。（原報告書、Section 5.2）
知能はモデルの中だけにあるのか
この考え方では、AIの能力はニューラルネットワークのパラメータだけで決まりません。
実際の能力は、
基盤モデル＋記憶＋検索＋ツール＋計画＋検証＋環境
というシステム全体から生まれます。
したがって、将来のAGIやASIは、一つの巨大モデルというより、複数の機能を統合した認知システムになる可能性があります。
第6節 継続学習
現在の多くのAIは、大規模な訓練を終えた後、基本的に学習内容を固定します。
新しい出来事や利用経験は、会話中の文脈として一時的に使われても、恒久的な能力として自動的に統合されるとは限りません。
人間は異なります。
人は日々の経験から学び、
- 新しい知識を得る
- 判断を修正する
- 技能を向上させる
- 他者との関係を学ぶ
- 失敗から行動を変える
ことができます。
AGIにも、環境との相互作用から継続的に能力を蓄積する機能が必要になると考えられます。
原報告書は、AGIレベルのシステムには、学習済みの能力を失わず、新しい経験から絶えず学ぶcontinual learningが必要になる可能性を指摘しています。（原報告書、Section 5.2）
第7節 破滅的忘却
継続学習を難しくする代表的な問題が、catastrophic forgetting――破滅的忘却です。
ニューラルネットワークに新しい課題を学習させると、以前学んだ能力が失われることがあります。
たとえば、
1. 数学を学習する
2. その後、法律を集中的に学習する
3. 法律学習によって数学能力の一部が低下する
という現象です。
人間も忘れますが、新しい技能を学ぶたびに過去の能力全体が大きく崩れるわけではありません。
AGIが長期間にわたって自律的に活動するなら、
- 新しい知識を追加する
- 古い知識を修正する
- 重要な能力を維持する
- 矛盾した情報を整理する
- 誤った学習を取り消す
仕組みが必要です。
継続学習は、単にデータを追加することではありません。
記憶、概念、技能、価値判断を安定して更新する、認知システム全体の問題です。
第8節 文脈窓の限界
現在のTransformerは、一定範囲の入力を文脈として処理します。
その範囲は拡大してきましたが、原理的・実用的な制約があります。
非常に長い文書、数年間の活動履歴、巨大なソフトウェア、長期的な研究プロジェクトなどを、すべて常時モデル内部に保持するのは困難です。
また、文脈が長くなれば、
- 計算量が増える
- 重要情報を見失う
- 無関係な情報が混入する
- 初期の指示を忘れる
- 一貫性が低下する
可能性があります。
原報告書は、AGIには固定された文脈窓を超え、動的に拡張できる記憶や推論範囲が必要だと考えています。（原報告書、Section 5.2）
第9節 検索による事実上無制限の記憶
一つの方法は、すべてをモデル内部に記憶するのではなく、必要なときに外部記憶から取り出すことです。
これは検索拡張生成、外部メモリ、データベース接続などの形で、すでに実用化されています。
AGIでは、さらに高度な形が考えられます。
- 過去の全活動を保存する
- 必要な経験を正確に呼び出す
- 自分の過去の判断と比較する
- 外部文献を随時参照する
- 新しい知識を記憶体系へ追加する
- 矛盾する記録を統合する
原報告書は、大規模な検索システムを統合することで、AIが事実上無限で更新可能な作業記憶へアクセスできる可能性を論じています。（原報告書、Section 5.2）
内部記憶と外部記憶
将来のAIでは、記憶が次のように分かれる可能性があります。
- 即座に使える内部知識
- 現在の問題を扱う作業記憶
- 過去の経験を保存する長期記憶
- 外部の共有データベース
- 他のAIが形成した集合的記憶
これは、人間の脳、ノート、図書館、インターネット、組織記録を統合したような構造です。