高階関数としての記憶想起 — 接地された生成のための適応的検索

Author: Asher Bond (asher.bond@distillative.ai)

要旨

検索拡張生成（RAG）[1] は、言語モデルの出力を検索された文脈へ接地させ、幻覚を抑制する [2]。しかしその性能は、検索段の質に上限を課される。そして大半の実運用において、この検索段は静的な最近傍探索にすぎない。単一の固定された検索方針が、多様なクエリのすべてにわたって最適であることはあり得ない。本稿は記憶想起を高階関数として扱う。すなわち、検索戦略を設計時に固定するのではなく、原子的な検索操作 [3, 4, 5] から実行時に選択・合成する対象とみなす。これにより検索段は、文脈・タスク・過去の結果に応じて適応する。この設計は、パラメータ効率的な適応（LoRA [6]、AdaLoRA [7]）、知識を外部に保持し続けさせる破局的忘却の問題 [8, 9]、そして検出判断の精神物理学 — 信号検出理論 [10]、感度 d′ と基準 β — へと接続する。信号検出理論は、想起の受理／棄却に測定可能な構造を与える。本設計が切り出す未解決の問いは明確である。すなわち、制御器がタスク関連の検索戦略を十分に正確かつ安価に選択でき、その結果、適応的想起が多様なクエリ分布のうえで任意の固定方針を上回れるか否か、である。RAG [1] は、本設計がそれと対照して測定されるために据えられたベースラインである。

1. はじめに

標準的な RAG パイプライン [1] は、クエリを埋め込み、固定された類似度尺度によって上位 k 件の最近傍パッセージを検索し、それらを条件として生成器 [11, 12] を駆動する。どの索引を、どの尺度を、どの k を、どの再ランカーを用いるか — この検索方針は、オフラインで一度だけ選ばれる。その方針が多様なクエリすべてにわたって最適であることはない。あるクエリは新しさを求め、あるものは広い網羅を求め、あるものは単一の権威あるパッセージを求める。検索戦略をクエリごとに選択するシステムは、固定方針がクエリと噛み合わない箇所でこそ、より関連性の高い文脈を検索する。本稿はこの選択を、設計時の定数ではなく、第一級の合成可能な操作とする。

2. 関連研究

RAG とその限界。 RAG [1] がベースラインである。その文書化された故障様式は検索依存性である。忠実性は検索の質に上限を課され、接地が不完全であれば幻覚は生き残る [2]。本稿が名指す介入 — 適応的な検索戦略の選択 — は検索の質に対する介入であり、したがって [2] が物差しとなる。

なぜ記憶を外部に保持するのか。 知識を重みへ微調整で焼き込むことは破局的忘却の危険を冒す [8]。これは EWC [9] のような正則化で緩和されはするが解決はされない。これこそ、知識をパラメータにではなく検索可能なストアに保持する標準的な論拠であり、本設計が立脚する地盤である。

合成可能で予算化された構造としての適応。 パラメータ効率的手法は、適応を安価かつモジュラーにする。LoRA は低ランク更新を学習し [6]、AdaLoRA [7] は適応予算をモジュール間で適応的に配分する。AdaLoRA は、適応戦略を実行時に選択することの、公刊された最も近い先行例である。本設計はこの適応予算の原理を、重み更新から検索戦略の選択へと持ち出す。

合成。 「他の関数を受け取り他の関数を返す関数としての想起」は、高階関数の標準的な定義である [3, 4, 5]。本稿の貢献は、実行時の関数合成を記憶想起へ適用することにある。

想起の妥当性検証。 想起された項目を受理するか否かは、感度（d′）と基準（β）を伴う検出判断である — 信号検出理論 [10]。これは、想起ゲートに測定可能な構造を与え、直観を二つの量に置き換える、応用された精神物理学の道具である。

3. 高階関数としての想起

原子的な検索操作の集まりが存在するとする（密ベクトル kNN、新しさフィルタ、メタデータゲート、マルチホップ、再ランク）。想起 HOF とは、クエリ・タスク記述子・過去の検索結果の記録を与えられて、それらの原子から検索戦略をリクエストごとに合成する関数である [3, 4]。実行時の合成は、多様なクエリ分布にわたって平均すれば、いかなる単一の固定戦略よりも多くのタスク関連文脈を検索する。その理由は、mixture-of-experts のルーティングや AdaLoRA の適応的予算配分 [7] と同じである。すなわち、ルータが良ければ、機構を入力に合わせることは固定機構に勝る。

本設計は一つの問いを切り出し、それを鋭く述べる。すなわち、そのルータが存在するか、安価であるか、そして自らのオーバーヘッドと誤りに抗して勝ちを保てるか、である。それこそ、測定が回転軸とする変数である。

4. 実施例（入力・処理・出力）

同一のストアに対する三つのクエリを、IPO 変換 [4] として表す。

これは [ILLUSTRATIVE] である — 設計の形、すなわち異なるクエリに対する異なる合成を示すものである。合成器が正しく捉えねばならないのは、選ばれた合成が関連するものであるか否かであり、回答忠実性 [2] がそれを採点する指標である。

5. 妥当性検証

妥当性検証ループを精確に述べれば、検出基準によってゲートされた、検索判断上の再試行と自己整合性である。モデル出力にわたる自己整合性は公刊された技法であり [13]、受理／棄却ゲートは信号検出理論 [10]、すなわち、設定された基準 β のもとで、想起された項目が閾を越えるか否かを判定する応用精神物理学である。感度と閾が二つのつまみであり、そのいずれも直観ではなく量である。

証拠と適用範囲

本稿は、一つの切り出された経験的問いをもつ設計である。実施例は合成の形についての例示的な算術である。妥当性検証ゲートは信号検出理論 [10]、d′ と基準 β に接地している。そして本設計を決着させるのは、適応的想起合成と固定戦略の RAG ベースライン [1] とを、共有された多様なクエリ集合のうえで回答忠実性 [2] によって採点する直接対決であり、その規模は利用可能な計算資源に上限を課される。RAG がベースラインであり、合成を選択するルータが結果を決する変数である。

参考文献

  1. Patrick Lewis et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS). arXiv:2005.11401. [RAG]
  2. Ziwei Ji et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys. arXiv:2202.03629.
  3. John Backus (1978). Can Programming Be Liberated from the von Neumann Style? A Functional Style and Its Algebra of Programs. Communications of the ACM. [1977 ACM Turing Award Lecture]
  4. John Hughes (1989). Why Functional Programming Matters. The Computer Journal.
  5. Christopher Strachey (2000). Fundamental Concepts in Programming Languages. Higher-Order and Symbolic Computation. [Reprint of 1967 lecture notes]
  6. Edward J. Hu et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. International Conference on Learning Representations (ICLR). arXiv:2106.09685.
  7. Qingru Zhang et al. (2023). AdaLoRA: Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning. International Conference on Learning Representations (ICLR). arXiv:2303.10512.
  8. Michael McCloskey & Neal J. Cohen (1989). Catastrophic Interference in Connectionist Networks: The Sequential Learning Problem. Psychology of Learning and Motivation.
  9. James Kirkpatrick et al. (2017). Overcoming Catastrophic Forgetting in Neural Networks. Proceedings of the National Academy of Sciences (PNAS). arXiv:1612.00796. [Elastic Weight Consolidation (EWC)]
  10. David M. Green & John A. Swets (1966). Signal Detection Theory and Psychophysics. Wiley.
  11. Ashish Vaswani et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems (NeurIPS). arXiv:1706.03762.
  12. Tom B. Brown et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems (NeurIPS). arXiv:2005.14165. [GPT-3]
  13. Xuezhi Wang et al. (2023). Self-Consistency Improves Chain of Thought Reasoning in Language Models. International Conference on Learning Representations (ICLR). arXiv:2203.11171.