高階関数による認知的エージェント信頼性 — LLMエージェントのための合成的な検証・再試行制御層

著者: Asher Bond (asher.bond@distillative.ai)

要旨

大規模言語モデル（LLM）エージェントは、流暢な生成能力を持つ一方で、根拠のない出力（幻覚）を生む傾向 [1] と実行ごとに挙動が揺らぐ性質を併せ持つ。これは文書化された事実である。高階関数による認知的エージェント信頼性は、エージェントの作業を、原子的で単一目的の操作 [2, 3, 4] の上に合成された高階関数（HOF）として構造化し、各ステップを明示的な検証・再試行のゲートで包み込む制御層である。ここで論の重みを担う主張は、各ゲートにおける受理・棄却の判定が、信号検出理論（SDT）[5] の意味における 検出 問題そのものだという点にある。すなわち検証器は、調整可能な判定基準のもとで誤受理と誤棄却を秤にかけ、候補となる出力が棄却側に落ちたときに再試行が発火する。自己整合性に基づく検証器で測定したところ、このゲートは実用に足る感度を備えた真の検出器であった。再試行がもたらす信頼性向上の大きさは、モデルの誤りが偶然的か系統的かによって定まる。本アーキテクチャは、確立された信頼性技術 — 検索による接地 [6]、自己整合性を用いた回答投票 [7]、故障注入試験 [8] — と直接に連なり、エージェント的ワークフローにステップごとの読み取り可能な信頼性契約を与える。

1. はじめに

計画を立て、ツールを呼び出し、複数ステップの出力を組み上げるLLMエージェントは、その基盤モデルのあらゆる故障様式 — 幻覚 [1]、プロンプトの言い回しへの敏感さ、実行ごとの分散 — をそのまま引き継ぎ、さらにオーケストレーションの継ぎ目に新たな故障を加える。継ぎ目では、あるステップの欠陥のある出力が、次のステップを黙って汚染する。実務家はこれを、出力検証器・スキーマ検査・再試行ループで緩和してきた。本制御層は、それらの緩和策を原理立てて組織する方法である。

これを支える着想は二つある。第一に、協調のロジック — 分解・検証・再試行・エージェント間統合 — を、原子的関数の上の高階関数、すなわち他の関数を引数に取りあるいは返す関数として表現する。これは関数合成の標準的な語彙である [2, 3, 4]。第二に、検証・再試行のゲートを、調整可能な判定基準を備えた検出器として扱う。これはまさに信号検出理論が形式化してきた対象そのものである [5]。両者を組み合わせることで、エージェント的ワークフローに、ステップごとの読み取り可能な信頼性契約が得られる。各ステップは、名前を持つ受理・棄却の境界と、有界な回復経路を備える。引用文献は個々の構成要素を接地し、その合成物がそれらを働く制御層へと配置する。

2. 関連研究

LLMとその故障様式。 Transformerモデル [9] を少数ショット生成器 [10] へと規模拡大したものが、これらのエージェントが走る基盤である。幻覚 — 流暢だが根拠のない出力 — は、そうしたシステム全般にわたる未解決の未決問題として概観されている [1]。

接地と信頼性技術。 検索拡張生成（RAG）[6] は、出力を検索された証拠に条件づけることで捏造を低減する（ただし消去はしない [1]）。自己整合性 [7] は、複数の推論連鎖をサンプリングして投票することで推論の信頼性を高める — 「複数の候補を生成し、しかるのちに裁定する」というパターンをベンチマークで示した一例であり、本層の検証ゲートはこれを一般化する。カオスエンジニアリング [8] は、システムが優雅に劣化することを検証するために意図的に故障を注入するという規律を確立している — あらゆる信頼性の主張が照らし合わされる試験方法論である。

信号検出理論。 SDT [5] は、「信号あり」と「雑音のみ」との判定を、感度項（d′）と判定基準（β）を通じてモデル化する — これは検証ゲートが下す受理・棄却の選択の、測定された構造そのものである。ここではSDTを測定の道具として適用する。ゲートの感度と基準は、特定の検証器について推定する量であって、類比ではない。SDTは応用精神物理学の道具の一つにすぎない。Weber–FechnerおよびStevensの尺度化法則 [11, 12] は、より広い体系が顕著性や適応閾値へ適用する別の道具である。本層においては、受理・棄却の検出器こそが論を担う。

関数合成。 compose・map・fold、そして合成可能な高階関数からプログラムを構築するという規律は、Backusの関数レベルプログラミング [2]、高階関数と遅延評価がなぜモジュール性を助けるのかを論じたHughes [3]、関数を第一級の値として扱う基礎的取り扱いを示したStrachey [4] によって形式化されている。新規性は、これらを エージェントの制御フロー へ適用する点にある。

3. アーキテクチャ

エージェント的ワークフローは、原子的関数の上のHOFの合成として表現される。各原子的関数は単一目的の操作（検索・草稿・変換）であり、各HOFは原子的関数を合成し、ステップの間に検証ゲートを差し挟む。ゲートは候補出力を受理または棄却する。棄却は有界な再試行を発火させ、ステップを再呼び出しする前に入力を精緻化し、あるいはゲートの基準を調整する。

この構造から三つの役割が導かれる。

  1. 分解 — 計画立案HOFがタスクを原子的な下位タスクへ分割し、順序づける。これは関数型プログラミングが常に主張してきたモジュール性の議論そのものである [3]。
  2. 検証と再試行 — 検証HOFが各ステップを受理・棄却ゲートで包む。棄却されると、有界な再試行ループが精緻化して再実行する。再試行予算は構成上有限であり、ゆえにループは停止する。
  3. エージェント間統合 — 下位タスクが別々のエージェント上で走るとき、統合HOFがそれらの出力を一つの整合した結果へと裁定する。例えば投票による [7]。

この組織化の価値は、各継ぎ目が暗黙のものではなく明示的な、ステップごとの信頼性契約を担う点にある。これにより、受理・棄却の境界は、その場しのぎの検証器のあちこちに散らばったロジックではなく、第一級かつ調整可能な構成要素となる。

4. 検出器としての検証ゲート

論の重みを担う着想は、検証ゲートが一つの検出器であり、その挙動がSDT [5] に支配されるという点にある。候補出力が受理に足るか否かを判定するゲートは、あらゆる検出器と同じ二方向のトレードオフに直面する。

SDTは、これを記述する二つの独立した量に名を与える。すなわち検証器の 感度（そもそも受理可能な出力と不可能な出力をどれほどよく分離するか）と、その 判定基準（二種の誤りの相対的コストを踏まえ、受理・棄却の境界をどこに置くか）である。これにより適応閾値の挙動が具体化する。「閾値を調整する」とは、検証器がすでに持つROC上でβを動かすこと を意味し、誤受理を誤棄却と引き換えにすることである。感度を上げること — 良い出力と悪い出力を真により良く分離すること — には、より良い検証器が要る。閾値の移動では足りない。両者は別個の量であり、この枠組みは両者を別個に保つ。

この枠組みは測定されている。自己整合性に基づく検証器において、ゲートは真の検出器である。d′ = 0.72（95% CI [0.10, 1.35]）、β = 1.95 [MEASURED]。対照的に、書式検証器は検出を示さない（d′ ≈ 0）— それは整形式と不整形式を分離するのであって、正しさと誤りを分離するのではない。適応再試行による信頼性の押し上げは小さく、本タスクにおいては有意でない（Δ = +1.3%、McNemar p = 0.63）[MEASURED]。モデルの誤りが大部分において系統的だからである。再試行は同じ故障分布を再サンプリングする。この結果は枠組みが予測するとおりである — ゲートは測定可能な感度と可動な基準を持ち、信頼性向上の大きさは誤りが偶然的か系統的かによって定まる。これは制御層ではなく、モデルとタスクの性質である。

5. 具体例（例示）

この例は、エージェント的開発に関する姉妹論文で定義した認知DSL / IPO（Input–Process–Output）記法を用いており、特定のソース言語を用いてはいない。合成は [2, 3] に従って抽象的に参照する。多部構成の問い合わせを扱う質問応答エージェントを考える。

これは合成が いかに 走るかを追跡したものである。これは [ILLUSTRATIVE] である。再試行回数・遅延・受理率・精度のいずれの数値も付されていない。この追跡が示すのは構造であって、スループットではないからだ。

証拠と適用範囲

高階関数による認知的エージェント信頼性は、測定された検出結果と鋭い境界を備えたアーキテクチャである。検証ゲートは正真正銘の検出器である — 自己整合性に基づく検証器は測定可能な感度（d′ = 0.72）と可動な基準を持つ [MEASURED] — そして適応再試行による信頼性の押し上げは、モデルの誤りが系統的な場面では小さい。再試行が同じ分布を再サンプリングするからだ [MEASURED]。SDT [5] は受理・棄却のトレードオフにその構造を与える。任意の特定の検証器の感度は、その検証器についてそのタスクで測定された一つの数値であり、それを上げるには、基準の移動ではなく、より良い検証器が要る。具体例は例示的な合成である [ILLUSTRATIVE]。再試行は正しい継ぎ目で故障を表面化させる — それはモデルを再サンプリングするのであって、モデルが生み出せない正しさを製造するのではない。そしてそれこそが、故障のある場所にゲートを置くことの要点である。「高階関数による認知的エージェント信頼性」および「supertransformation」という用語は本体系に由来する。引用文献は個々の構成要素 — 合成 [2, 3, 4]、SDT [5]、RAG [6]、自己整合性 [7] — を接地し、その合成物は我々のものである。

参考文献

  1. Ziwei Ji et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys. arXiv:2202.03629.
  2. John Backus (1978). Can Programming Be Liberated from the von Neumann Style? A Functional Style and Its Algebra of Programs. Communications of the ACM. [1977 ACM Turing Award Lecture]
  3. John Hughes (1989). Why Functional Programming Matters. The Computer Journal.
  4. Christopher Strachey (2000). Fundamental Concepts in Programming Languages. Higher-Order and Symbolic Computation. [Reprint of 1967 lecture notes]
  5. David M. Green & John A. Swets (1966). Signal Detection Theory and Psychophysics. Wiley.
  6. Patrick Lewis et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS). arXiv:2005.11401. [RAG]
  7. Xuezhi Wang et al. (2023). Self-Consistency Improves Chain of Thought Reasoning in Language Models. International Conference on Learning Representations (ICLR). arXiv:2203.11171.
  8. Ali Basiri et al. (2016). Chaos Engineering. IEEE Software.
  9. Ashish Vaswani et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems (NeurIPS). arXiv:1706.03762.
  10. Tom B. Brown et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems (NeurIPS). arXiv:2005.14165. [GPT-3]
  11. Gustav Theodor Fechner (1860). Elemente der Psychophysik. Breitkopf und Härtel.
  12. S. S. Stevens (1957). On the Psychophysical Law. Psychological Review.