Modular Memory：「学び続けるエージェント」という難題にどう向き合うか

　AI エージェントは、単発の質問応答ではなく、何日も何週間も動き続ける実行体として使われ始めています。そこで求められるのは、過去のやり取りや経験を次の判断へ活かす、つまり 動かしながら学び続ける 能力です。

　しかしこれは、現在の機械学習にとって難題です。重みパラメータを更新すれば新しい知識を取り込めますが、既に覚えていたことが急激に崩れることがあります（これを破滅的忘却と言うことがあります）。

　一方で、モデル本体を固定し、必要な知識を文脈として毎回渡す方法もあります。重みを書き換えないため忘却は避けやすいものの、情報が増えるほど計算コストは膨らみ、長い入力では性能が劣化することもあります。

　重みに書き込むか、文脈で動かすか。本記事で紹介する論文は、この二者択一を 「モジュラーメモリ (modular memory)」 という設計でつなぐことを提案しています。手がかりになるのは、脳やコンピュータの記憶の仕組みです。

紹介する論文

本記事の要約

継続的に学び続けるエージェントの鍵は、重み学習（IWL）と文脈内学習（ICL）を二者択一にせず、役割の違う記憶モジュールとして束ねることにある。脳とコンピュータの記憶設計を手がかりに、「モジュラーメモリ」を中心にしたエージェント設計を提案した論文。

---

ポイント

• 新しい視点：
  これまで対立的に扱われてきた IWL（重みに定着できるが、忘却や不安定性を伴いやすい） と ICL（文脈で速く適応できるが、文脈が増えるほど重くなる） を、いずれか一方ではなく 役割の異なる記憶モジュールとして共存させる 設計に重心を移している。
• 提案：
  コアモデル・作業記憶・長期記憶 の 3 要素からなる枠組みを示します。対話中は作業記憶と長期記憶で その場の適応 を支え、あとで蓄積した内容をコアモデルへ 蒸留 して じっくり定着 させます。経験は「作業記憶 → 長期記憶 → コアモデル」と滑らかに移っていきます。
• 何が変わるか：
  記憶中心の設計によって、適応の高速化・ハルシネーション抑制・個別化・世界モデルといった可能性への適応が期待できます。

1. はじめに：学び続けるエージェントという難題

↑

　「知能」とは何か。それは 「変化に適応する能力である」 とする見方があります。変化への適応を重んじるこの見方は心理学や神経科学において昔から議論されていることで、現代の知能の定義にも一貫して受け継がれています。この原則の上に立つのが 継続学習 (continual learning) です。継続学習では、安定性 (stability) と 可塑性 (plasticity) のバランスを保ちながら、エージェントが次々に現れる新しいタスクへ適応していく仕組みが研究されています。

Note：安定性と可塑性（かそせい）
たとえば予定調整エージェントを実装したとしましょう。
ユーザが「朝の会議を好む」と覚えたあとも、カレンダーの基本ルールや以前に確定した予定を壊さないことが 安定性 です。一方で、ユーザが「今月だけ夜の打ち合わせを優先したい」と言い始めたら、その新しい条件をすばやく取り込めることが 可塑性 です。安定性が強すぎると変化に鈍くなり、可塑性が強すぎると新しい情報で古い知識を簡単に上書きしてしまいます。

　継続学習がこれまで主な手段としてきたのは、対象とするモデル自身のパラメータを更新する という方法でした。この方法は 重み学習 (In-Weight Learning, IWL) と呼ばれます。この頻繁なパラメータ更新は次の困難に直面していることがわかっています。

• 忘却：新しいタスクを学ぶと、過去のタスクの性能が急激に崩れる（破滅的忘却）。
• 最適化の不安定性：更新を重ねるほど学習自体が安定しにくくなる。

　一方で、基盤モデル^[1]の登場により、重みを更新せず、文脈だけで適応する 道も広がりました。これが、もう一つの学習の形である 文脈内学習 (In-Context Learning, ICL) です。ICL は追加情報や少数の事例(few-shot)を入力として与え、モデルのパラメータを変えずに出力を調整します。そのため LLM エージェント研究では、モデル本体を凍結したまま、コンテキストウィンドウや対話履歴を記憶として使う設計が広く試されてきました。

　一見すると、このICLの方針は忘却問題を回避できているように見えます。「重みを更新しないのだから、過去の知識が壊れようがない」というわけです。しかし ICL だけに頼った適応にも、大きな限界があります。大規模なコンテキストへの依存は計算コストがかかり、長い文脈では推論性能が劣化することもあります。そして何より、ベースモデルを凍結したままでは、非定常な環境での根本的なデータ分布の変化や、変化し続けるユーザニーズを、モデル自身の能力として内在化しにくい という問題が残ります。

　そこで本論文は、次のように主張しています。

　このアーキテクチャは、次の 3 つの部品で構成されています。

• コアモデル (core model)：事前学習済みのモデル本体。
• 作業記憶 (working memory)：いま必要な文脈を一時的に扱う記憶。
• 長期記憶 (long-term memory)：過去の経験を蓄え、すばやい適応と知識の蓄積を支える記憶。

　この設計のもとでは、コアモデルは毎回その場で書き換えることはありません。まず経験を長期記憶に蓄積し、後から必要な内容だけを 低頻度かつ慎重に コアモデルに反映します。これにより、過去の出来事を単純に丸暗記させるのではなく（破滅的忘却を抑制し）、蓄積した経験から共通のパターンを学び、徐々にモデルの能力を底上げすることが可能となります。

　まずは、この設計の前提となる IWL と ICL という二つの学習機構を次に見ていきます。

2. 二つの学習機構：IWL と ICL

↑

　本論文の議論はすべて、IWL (In-Weight Learning) と ICL (In-Context Learning) という二つの学習機構の対比の上に成り立っているので、まずはそれぞれが何を得意とし、どのような課題や限界に直面しているのかを整理していきます。

2.1. 重み学習 IWL：更新して内部に取り込む

↑

　重み学習 (IWL) は、モデルのパラメータそのものを勾配降下などで書き換えて、新しい知識を内部に取り込む方式です。やや堅い言い方ですが、ほとんどの深層学習の学習はほぼこの IWL に相当しています。

　継続学習の文脈では、この IWL の限界は 破滅的忘却（新しいタスクを学ぶと古いタスクの性能が急に崩れる現象）として現れます。この問題に対して、深層学習はおおむね以下の 2 つで対策されています．

• 蓄積データ（リハーサル／リプレイ）：過去タスクの事例を保存しておき、新しい学習と一緒に 再生 (replay) することで忘却を和らげる。経験的によく効くため、忘却対策の主流となっています。
• モデルパラメータの保護：重要なパラメータの更新を抑える正則化や、過去の勾配を使った近似的なリプレイ、古いモデルで過去データを合成する擬似リハーサルなど。

　要するに、従来の深層学習では、記憶は 推論に使う仕組み というより、学習中の忘却を抑えるための一時保管庫 として扱われてきました。そのため IWL に頼る限り、忘却 や 安定性・可塑性のトレードオフ は残ります。

2.2. 文脈内学習 ICL：凍結したまま外から動かす

↑

　一方、文脈内学習（ICL） は、現在の 大規模言語モデル（LLM） によって広く使われるようになった新しい学習のスタイルです。パラメータは凍結したまま、モデルの外側に保存した情報を、必要に応じてプロンプトに含めることで、モデルの応答を変えます。その形態は、コンテキストウィンドウをそのまま作業領域として使うものから、能動的に記憶を出し入れするエージェントまで多岐にわたります。

以下の例と同じ形式で、最後の会議メモから TODO を抜き出してください。

入力：田中さんが金曜までに見積もりを作成。
出力：
- 担当：田中 / TODO：見積もりを作成 / 期限：金曜

入力：山本さんが明日までに資料を修正。
出力：
- 担当：山本 / TODO：資料を修正 / 期限：明日

入力：高橋さんが水曜までにデモ環境を準備。
出力：

Note：ここでいう ICL の範囲
上の例では few-shot の例をプロンプトに直接入れていますが、本論文の ICL はそれより広く、過去の経験・デモンストレーション・タスク固有情報を表す追加埋め込みによって、注意機構を条件付ける場合も含みます。エージェントの skill のように、外部に置いた手順や知識を必要なときに読み込み、現在の推論を条件付ける仕組みも、この広い意味での「文脈側での適応」に近いものです。

　ただし、記憶をモデルの外側に置けば、それだけでエージェントが長く学び続けられるわけではありません。通常のコンテキストウィンドウだけを使うチャットAIでいえば、同じ会話の中で例や好みを伝えると応答は変わりますが、新規チャットを開けば、その会話の文脈は基本的に引き継がれません。必要であれば過去の情報を検索してもう一度プロンプトに入れることで応答は調整できますが、その経験がコアモデルの中に定着するわけではありません。ICL で変わるのは、あくまでその時に与えた文脈の範囲での振る舞いであり、適応の多くは外部記憶の検索とプロンプト設計に依存します。モデル本体は凍結されたままです。

　継続学習の文脈では、この ICL の限界は 文脈への依存 として現れます。モデル本体を書き換えないので破滅的忘却は避けやすい一方で、必要な知識を毎回うまく文脈に入れられなければ、その知識は使えません。この問題に対して、LLM エージェントではおおむね以下の 2 つで対策されています。

• 長い文脈の利用：会話履歴や資料をコンテキストウィンドウにできるだけ入れ、モデルがその場で参照できるようにする。
• 外部記憶の検索：過去の対話や文書を保存しておき、必要なものだけを検索してプロンプトに戻す。

　要するに、ICL では、記憶は モデル内部に定着した知識 というより、推論時に取り出して使う材料 として扱われます。そのため ICL に頼る限りはコンテキスト長・検索品質・プロンプト設計への依存 が課題として残ります。

2.3. 2 つの限界を乗り越えるには

↑

　ここまでを整理すると、二つの学習機構は 得意と不得意がきれいに裏返し の関係にあることが見えてきます。

　こうして並べると、どちらか一方だけでは限界が残る ことがはっきりします。IWL に頼り切れば忘却や不安定性が問題になり、ICL に頼り切れば凍結とコストに縛られる。とすると、速い適応は ICL に、遅く慎重な定着は IWL に割り振り、両者を一つの設計のなかで共存させればよい。これが本論文が注目したポイントになります。

　これらをどう共存させるか？本論文では、我々が持つ脳や、いつも使っているコンピュータの仕組みに着想を求めています。それを次に見ていきましょう。

3. 脳とコンピュータに見る記憶設計の手がかり

↑

　記憶は、経験を定着させるためだけでなく、計算をどう振り分けるか を考えるうえでも欠かせない要素です。本論文は、「ヒトの記憶」「コンピュータの記憶」という 2 つの先例から、継続的に学習するAIが満たすべき設計原則を引き出しています。

3.1. ヒトの記憶：速い海馬と遅い大脳皮質

↑

　ヒトの記憶は、単一の仕組みではありません。覚える速さや容量、覚え方が違う複数の記憶システム が、それぞれ役割を分担しながら連携しています。このおかげで、私たちは破滅的忘却に陥ることなく新しいことを素早く覚えられます（私たちも物忘れなど多いので、完全ではありませんが…）。

　記憶を機能の大枠で見ると、次の 3 つに分けられます。

• 感覚記憶：視覚・聴覚など感覚の種類ごとに、ごく短時間だけ情報を保持する一時的なバッファ。
• 作業記憶：いま考えていることを一時的に保持する作業領域。
• 長期記憶：長く持続する記憶。これはさらに、言葉で説明できる記憶（宣言的記憶：概念・事実・出来事）と、体や手順として身についている記憶（非宣言的記憶：技能・習慣）に分けることができる。

　ここから継続学習の手がかりとして取り出したいのは、新しい経験をすばやく保持する仕組み と、時間をかけて安定した知識へ統合する仕組み の分担です。脳科学では、これを 相補的学習システム (Complementary Learning Systems, CLS) として説明することがあります。

Note：海馬と大脳皮質
海馬は、新しい経験をすばやく保持する領域として説明されます。一方、大脳皮質は、経験をより一般化された知識へ少しずつ統合する領域として説明されます。

　この分担は、先ほど見た ICL 的な速い適応 と IWL 的な遅い統合 の関係を考える手がかりになります。新しい経験をまずその場で使える形に残し、あとから必要なものだけを再処理して、より安定した知識へ移していく。この流れを支える仕組みとして重要なのが リプレイ (replay) です。

　リプレイとは、過去の経験を後から再処理する働きのことで、しばしば睡眠中に起こるとされています。経験をそのまま溜め込むのではなく、必要なものを再び呼び出し、整理し、定着させることで、速い学習と安定した知識の維持を両立しやすくします。AI の記憶設計でいえば、稼働中に得た経験をその場の判断に使い、あとで再処理して長く使える知識へ移していく、という発想に対応します。つまりリプレイは、ICL 的に保持された具体的な経験を、IWL 的に安定した知識へ移していくための中間処理だと考えられます。

3.2. コンピュータの記憶階層：有限を明示的に管理する

↑

　もう一つの手がかりが、コンピュータの記憶階層です。コンピュータは、すべてのデータを同じ場所に置いているわけではありません。すぐ使う少量の情報は取り出しやすい場所に置き、たくさんの情報はより大きな保管場所に置きます。近くに置けば速く使えますが、置ける量は限られます。遠くに置けば大量に保存できますが、取り出すには時間がかかります。つまり、記憶には 速さと容量のトレードオフ があります。

　だからコンピュータでは、データをただ保存するだけでは足りません。階層のあいだでデータをどう動かすかを、次のようなポリシーで管理しています。

• 書き込みポリシー：変更した内容を、いつ下位の記憶へ反映するかを決める。
• 置換／追い出しポリシー：容量が足りなくなったとき、どのデータを外へ出すかを決める。
• プリフェッチ：次に使いそうなデータを、必要になる前に先読みする。
• テレメトリ：キャッシュミス（必要なデータが近い記憶になかった状態）やページフォールト（さらに遠い記憶まで取りに行く必要が出た状態）などを観測し、どこで記憶が詰まっているかを把握する。

　この見方は、AI の記憶設計にもそのまま効いてきます。過去のやり取りや経験を、すべて毎回の文脈に詰め込むことはできません。すぐ使う情報は近くに置き、長く残したい情報は別の場所に蓄え、不要になった情報は忘れる必要があります。コンピュータの記憶階層が示しているのは、記憶はただ増やすものではなく、何をどこに置くかを管理する資源 だという点です。

3.3. 脳とコンピュータから見える、記憶システムの設計条件

↑

　ヒトの記憶から見えるのは、すばやく経験を保持する仕組みと、時間をかけて安定した知識へ統合する仕組みを分ける必要性です。一方、コンピュータの記憶階層から見えるのは、容量が有限である以上、保存・検索・忘却・統合を明示的なポリシーとして扱う必要性です。

　つまり、継続学習を行うAIに必要なのは、単に長いコンテキストや大きな保存領域ではなく、情報を 「いま使うもの」「後で取り出すもの」「モデルに定着させるもの」 へ段階的に移していく仕組みです。

　次章では、この移行経路を、作業記憶・長期記憶・コアモデルからなるフレームワークとして見ていきます。

4. 提案：モジュラーメモリ・フレームワーク

↑

　本論文では、脳科学やコンピュータから着想を得た、モジュラーメモリ・フレームワークを提案しています。このフレームワークの中心にあるのは、経験を一か所に押し込めるのではなく、役割の異なる記憶モジュールへ分け、必要に応じて情報を移していくという考え方です。ポイントは、ICL による即時の適応 と IWL による遅い定着 を、同じ記憶システムのなかでつなぐことです。

まず、情報の流れを押さえておきます。このフレームワークでは、経験は 「作業記憶 → 長期記憶 → コアモデル」 の順に受け渡され、それぞれが異なる役割を担います。

4.1. モジュラーメモリの全体像：3 つの記憶レイヤー

↑

　提案フレームワークは、次の図のように整理されます。

図1：モジュラーメモリ・フレームワークの全体像

継続学習を可能にするために、記憶を役割ごとに独立したモジュールとして分けている。フレームワークは (1) 知覚と推論を担う コアモデル、(2) 現在の対話ラウンドに関わる情報を一時的に保持する 作業記憶、(3) 抽出された経験・事実・観察を蓄積する 長期記憶 の 3 要素から成る。

　ここでいうフレームワークの中心は 3 つの記憶レイヤーですが、それらは閉じた系として動くわけではありません。作業記憶は、ユーザ・環境・ツール・他のエージェントといった外界から入力を受け取り、必要に応じて外界へ行動を返します。そこで図では、3 つの記憶レイヤーに加えて、その接続先としての外界も合わせて整理します。

4.2. モジュラーメモリの動作：知識の移行経路

↑

　このシステムは、外から入力を受ける 外部対話レジーム と、経験を整理し直す 内部統合レジーム を行き来します。脳が起きている間に経験し、眠っている間にそれを定着させるのと、よく似た役割分担です。

Note：レジームとは
レジームとは、同じ仕組みが場面に応じて見せる「動き方」のことです。ここでは、エージェントが外部とやり取りしている状態と、内部で経験を整理している状態を区別するために使っています。「外部対話モード」「内部統合モード」と読み替えても問題ありません。

• 外部対話レジーム：入力を作業記憶へ入れ、必要なら長期記憶から関連する経験を検索し、コアモデルの応答を条件付けます。応答後には、そのやり取りを長期記憶へ追加するかどうかも決めます。
• 内部統合レジーム：十分な経験が貯まったあと、長期記憶を再処理・リプレイし、有用な情報をコアモデルへ 蒸留 します。同時に長期記憶そのものも、圧縮・再編成・緩やかな忘却を受けます。

　この二つのレジームをまたぐと、経験はまず作業記憶で使われ、必要なら長期記憶へ残され、十分に蓄積したものだけがコアモデルへ定着します。長期記憶はその途中で検索・圧縮・忘却の対象にもなります。

　この流れを貫くのが、「作業記憶 → 長期記憶 → コアモデル」という知識の移行経路 です。

　ここで 二つの学習機構の役割分担 が明確になります。作業記憶と長期記憶は ICL による高速な学習を担い、検索された経験でコアモデルを即座に条件付けます。一方、コアモデル自体は内部統合レジームでの IWL によって低頻度に更新されます。毎回パラメータを書き換えないため、IWL が抱える忘却や最適化不安定のリスクを減らしつつ、必要な知識だけを少しずつ定着させられます。ただし、これらのリスクが完全になくなるわけではなく、統合時にはリプレイや正則化などの忘却対策が引き続き必要になります。

Note：制御ポリシーへの橋渡し
この図は移行経路だけを示しています。「いつ検索するか」「何を保存するか」「いつ統合するか」は別の設計問題です。5.2 では、この判断基準を 制御ポリシー として整理します。

5. メモリ設計の要点：移行経路をどう実装するか

↑

　4 章では、経験が 作業記憶 → 長期記憶 → コアモデル へ移っていく流れを見ました。ここからは、その移行経路を支える記憶モジュールをどう設計するかを見ていきます。

　本論文はこの設計を、記憶表現 と 記憶の組織化・制御ポリシー の 2 つに分けて整理します。前者は「情報を何として保存するか」、後者は「保存した情報をどう並べ、何を基準に出し入れ・整理・統合するか」です。万能の設計はなく、重要なのは、どの移行を速くしたいのか、どこで忠実性を保ちたいのか、どこで汎化を得たいのかを明確にすることです。

5.1. 記憶表現：何として保存するか

↑

　同じ経験でも、保存形式によって扱いやすさは大きく変わります。生のログとして残せば忠実ですが、検索と容量が重くなります。埋め込みにすれば取り出しやすくなりますが、情報は圧縮されます。ニューラルな重みへ混ぜ込めば汎化しやすくなりますが、個別の記憶を消すのは難しくなります。

　記憶表現は、大きく スロット型 と 分散型ニューラル に分けられます。

スロット型記憶：個々の記憶を別々のスロット（枠）に分けて保存し、追加・検索・削除できるようにする方式です。

• 生データ：対話・推論・入力データを元の形式のまま保存する。たとえば LLM の質問と応答、ツール実行ログ、VLM のテキスト指示付き視覚デモンストレーションなど。根拠を失わずに残せる一方、容量と検索コストは大きくなります。
• 埋め込み：生データを学習済みの潜在空間に写し、検索や再利用に向いた形で保存する。代表的には次のようなものがあります。
  • 活性ベース：コアモデルの層から抽出した隠れ活性を使う。
  • KV キャッシング^[2]：注意層のキーとバリューを保存する。
  • 学習済み埋め込み：外部エンコーダなどで専用空間へ写す。

分散型ニューラル記憶：スロット型のように「この記憶はこの場所」と分けて保存するのではなく、多数の記憶をひとつのニューラルネットワークの重みに重ねて覚えさせる方式です。取り出すときは保存場所を探すのではなく、入力をネットワークに通し、その出力として必要な情報を得ます。高い圧縮と汎化を狙える一方、複数の記憶が同じ重みに重なって入るため、項目間干渉 (cross-item interference) が起きやすく、特定の記憶だけを選んで忘れることは難しくなります。更新規則によって、反復的に重みを変える 低速な勾配ベース更新 と、ほぼ一発で書き込む 高速な連想型更新 に分けられます。

　この違いを、4 章の移行経路に照らして見ると次のようになります。

　ここで重要なのは、どれか 1 つの表現が正解というわけではない点です。生データは根拠を保つために、埋め込みは検索して作業記憶へ戻すために、ニューラル記憶は経験を圧縮して汎化するために向いています。さらに十分に整理された経験は、最終的にコアモデルへ統合され、より安定した能力として定着していきます。つまり表現形式は、移行経路のどの段階を担うかによって選ぶ必要があります。

Note：項目間干渉のイメージ
ニューラル記憶を $f_\theta$ と見ると、ある記憶項目 $x_A \to y_A$ を追加する更新は、専用スロットではなく共有パラメータ $\theta$ に入ります。そのため、表現 $h_A$ と $h_B$ が近い、あるいは同じ重みを強く使う場合、A のための更新が B の出力も動かしてしまいます。これが項目間干渉です。

5.2. 制御ポリシー：何を基準に記憶を動かすか

↑

　表現形式を決めても、記憶システムの振る舞いはまだ決まりません。必要なのは、4.2 で見た移行経路を実際に動かすための 制御ポリシー です。ここで問うのは「追加・検索・忘却・統合とは何か」ではなく、それらを どの信号で起動し、どの対象に適用するか です。

　制御ポリシーを考える前に、記憶をどう並べておくかを決める必要があります。単純に時系列で並べれば実装は容易ですが、関連する経験をあとから探すには弱くなります。抽象度で階層化すれば、個別のログと要約されたパターンを分けて扱えます。項目どうしの関係をグラフとして持てば、「この失敗は過去のどのツール使用と似ているか」のような参照がしやすくなります。つまり記憶構造は、保存・検索・忘却・統合の判断をしやすくするための足場です。

　この見方では、記憶設計の難しさは個別の操作そのものではなく、操作どうしの 相互依存 にあります。検索頻度は重要度の推定に使えますし、コアモデルへ統合できた経験は長期記憶の中で要約したり削除したりしやすくなります。逆に、保存時点では重要に見えない経験が、後のタスクで初めて価値を持つこともあります。

　そのため、制御ポリシーは短期的な応答改善だけでなく、将来の有用性を見越して設計する必要があります。論文が挙げる目的関数の設計、長期的な信用割当、学習済みポリシーの適応は、まさにこの部分の課題です。モジュラーメモリの実装では、表現形式を選ぶだけでなく、どの信号を使って記憶を動かすかまで含めて設計しなければなりません。

6. 結論と応用可能性

↑

　ここまでで論文の主張についてまとめました。本論文は新しいモデルや実装コードを提示するというより、継続学習エージェントをどう設計すべきか という見取り図を提案する論文です。最後に、その結論的な主張と、そこから見える応用領域を整理します。

6.1. 論文の結論・まとめ

↑

　本論文の中心的な結論は、適応的な AI には ICL と IWL の強みを、モジュラーメモリを介して統合する設計 が必要だというものです。どちらか一方を選ぶのではなく、作業記憶と長期記憶でその場の適応を支え、十分に整理された経験だけをコアモデルへ低頻度に統合する。この分担によって、速い適応と安定した定着を両立しようとします。

　重要なのは、これは「すでに完成したアーキテクチャ」の提示ではなく、研究の方向づけだという点です。長いコンテキストや RAG だけでは、検索ノイズ・計算コスト・選択的忘却の問題が残ります。一方で、コアモデルを継続的に更新するだけでは、破滅的忘却や更新の不安定さを避けにくい。だからこそ、記憶を単なる外部ストレージではなく、学習機構をつなぐ設計単位 として扱う必要があります。

　この見方に立つと、期待される効果も整理しやすくなります。過去経験を引き出せれば適応は速くなり、根拠となる記憶を参照できればハルシネーションの抑制や説明可能性にもつながります。ユーザごとの好みを記憶すれば個別化が進み、環境との相互作用を蓄積すれば世界モデルや未来予測の補助にもなります。ただし、これらは実装済みの成果というより、モジュラーメモリが開く研究課題として位置づけるのが自然です。

6.2. 応用的な広がり

↑

　応用先はいろいろあります。共通しているのは、過去の経験をただ保存するのではなく、次の判断に使える形で残すことです。

• ツール学習：エージェントは、Web 検索、ブラウザ、ファイル編集、コード実行、データベース、社内 API などを使いながら作業します。このとき大事なのは、ツールの一覧ではなく「どの場面でどのツールを使うとうまくいったか」です。成功した手順や失敗した呼び出しを記憶できれば、ツールの使い方は少しずつ上達します。
• 推論と経験の保存：調査やデバッグでは、最終回答だけでなく、途中で立てた仮説、見たログ、除外した原因にも価値があります。こうした過程を残せれば、似た問題に出会ったときに同じ探索を最初から繰り返さずに済みます。
• ストリーミング設定・身体性エージェント：動画を少しずつ見ながら状況を追う、ロボットが部屋の中の物体位置を覚える、家庭用エージェントがユーザの好みを更新する、といった場面です。観測が時間とともに入ってくるので、過去の観測や行動結果を覚えておくことが長期的な計画を支えます。

　つまり、応用先は違っても要点は同じです。過去の経験を単なるログとして積むのではなく、必要なときに取り出して使える記憶として扱えるか。ここにモジュラーメモリの実用上の価値があります。

7. おわりに

↑

　本記事では、学び続けるエージェント という難題を、IWL と ICL の限界、脳とコンピュータの記憶設計、そしてモジュラーメモリという提案の順に見てきました。

　本論文が示したのは、記憶を単なる補助機能として後付けするのではなく、エージェントの中核的な設計単位として扱うべきだという視点です。作業記憶、長期記憶、コアモデルを分け、それらのあいだで経験をどう移し、どう保存し、どう定着させるかを明示する。この整理によって、継続学習の議論は「モデルをどう更新するか」だけでなく、「経験をどこに置き、いつ使い、いつ能力へ変えるか」という問題として捉え直されます。

　まだ完成形が示されたわけではありません。むしろ本論文は、記憶中心のモデル、継続学習、エージェント設計をつなぎ直すための出発点です。「忘れずに、学び続ける」という能力を実現するには、記憶をシステム設計の中心に置く必要がある。そんな見取り図を示してくれた論文でした。

脚注

[1] 基盤モデル (foundation model) は、大規模かつ多様なデータで事前学習され、幅広い下流タスクへ転用できる汎用モデル群を指す。本記事では実質的に、文脈内学習 (ICL) を発現する Transformer ベースの大規模言語モデル (LLM) や視覚言語モデル (VLM)、およびそれらを核に据えた AI エージェントが念頭に置かれている。

[2] KV (Key-Value) ベクトルは、Transformer の注意機構が各トークンに対して計算するキー・バリューのペア。通常は推論中に一時的に保持されるだけだが、これを保存・再利用することで「過去の処理済みコンテキスト」をモデルに再注入できる。検索時に射影をやり直さずに済む利点がある反面、キーとバリューの両方を保存するため必要記憶量は倍になる。

参照 URL

↑

• 本論文（Position: Modular Memory is the Key to Continual Learning Agents）: https://arxiv.org/abs/2603.01761
• Attention Is All You Need（Transformer / 注意機構）: https://arxiv.org/abs/1706.03762
• Language Models are Few-Shot Learners（GPT-3 / ICL）: https://arxiv.org/abs/2005.14165
• Overcoming catastrophic forgetting in neural networks（EWC / 破滅的忘却）: https://arxiv.org/abs/1612.00796
• Retrieval-Augmented Generation（RAG）: https://arxiv.org/abs/2005.11401
• Cognitive Architectures for Language Agents（CoALA / 認知アーキテクチャ）: https://arxiv.org/abs/2309.02427