採用中ポジション一覧カジュアル面談
採用中ポジション一覧カジュアル面談

2026-08-12 機械学習勉強会

今週のTOPIC

※ [paper] [blog] など何に関するTOPICなのかパッと見で分かるようにしましょう。
技術的に学びのあるトピックを解説する時間にできると🙆（AIツール紹介等はslack channelでの共有など別機会にて推奨）
出典を埋め込みURLにしましょう。
@Naoto Shimakoshi

関東Kaggler会

@Shun Ito

[paper] DocRetriever: A Plug-and-Play Framework for Multimodal Document Retrieval with Comprehensive Benchmark

  • KDD2026
  • 概要
    • VLMベースのRAG（ColPali、ColQwen、VisRAGなど）に関する論文
    • 課題
      • VLMは文書全体を1本の密なベクトルに圧縮するため、「どの単語・どの領域が効いたか」という明示的な語彙情報が埋もれてしまう
      • 教師ありリランカーは学習データのドメインに強く依存し、未知のドメインの文書では精度が落ちやすい
  • 提案: DocRetriever
    • オフライン
      • 各文書のembeddingを用意。dense, sparseの2種類を作成する。
        • dense: VLMの隠れ状態
          • ex. VLMに「文書全体をこの1語で表現せよ」のようなプロンプトを与え、最後の隠れ状態
        • sparse: 隠れ状態をLM Headに通して得られた語彙分布を後処理したもの
          • 「この文書と意味的に関連が深い単語ほど高い値を持つ分布」と解釈できる
          • 後処理
              1. 語形の正規化（Lemmatization）： のような語形変化を  という基本形にまとめ、重複した重みを最大値で統合する。
              1. トークンフィルタリング：ストップワードや意味のない記号を除去する。
              1. ロジット処理：SPLADEに倣い ReLU と log による飽和処理をかけて高頻度語の支配を抑え、上位256次元だけを残して整数量子化する。
      • Reranking ICLで使う「お手本」を用意。
        • クエリに対する正解ページ（正例 d+）と、紛らわしいが不正解のページ（ハードネガティブ d-）のペアを用意する。
        • あるVLMに、このペアそれぞれについて「なぜ関連する/しないのか」という推論チェーン（reasoning chain）付きの判定を書かせる。
        • 正例・負例の両方を正しく判定できた場合のみ、そのお手本を採用する（片方でも間違えたら捨てる）。
        • さらに、複数の最先端モデルが提案者・レビュアーの役割を交代しながら相互チェックする「多モデル合議（Rotational Tri-party Consensus）」により、手動監査で98.3%の精度を確認している。
    • オンライン
      • 入力クエリをdense, sparseベクトルに変換し、それぞれ文書のdense, sparseベクトルと類似度計算 → それぞれの結果を重み付け和して類似度スコアとし、似ているものをK件抽出
      • 似ている文書それぞれについてクエリに対する最終的な類似度スコアを計算
        • クエリ・文書それぞれとの類似度が高い「お手本」を正例・負例2件ずつ抽出
        • promptに追加し、クエリ・文書が似ているかどうかをyes/noで答えさせる → yesの生成確率を類似度スコアとする
      • クエリに対する類似度スコアの高い文書を採用する
        • ベクトルの類似度だけで抽出するよりも、hard negativeを意識して類似度判断させられるのがよさそう
    • sparseベクトルの追加 + ICLの追加をすれば、既存のVLMベースRAGを拡張できる
      • 用意するICLのドメインを切り替えれば、別のドメインにも対応できる
  • 実験
    • Retrieval
      • DocRetrieverで拡張したVLMベースRAGがRetrieval精度が良い
    • Rerank
      • お手本選択で「ランダム／自信度が低い難しい例／クエリ・文書両方に類似した例」の3つの方式で見ると、提案手法で採用している「クエリ・文書両方に類似した例」が一番よい。似ていて正しい・似ているけど間違っている例を見た方が精度改善につながる。
@Hiromu Nakamura (pon)

[paper] NeSy-RAG: Neuro-Symbolic RAG for Explainable Question Answering

[pon] Prolog(論理型言語)でRAGの推論過程の透明性と根拠の明確化を実現するという面白いやつ
本論文では、RAGにおける推論の不透明性と回答の根拠欠如という課題を解決する「NeSy-RAG」を提案している。
NeSy-RAGは、検索されたテキストチャンクから論理的なPrologモジュールを自動合成し、決定論的な推論と実行トレースによる根拠の明示を実現する。さらに、推論に必要な情報が不足している場合に、自動的にユーザーへの質問を生成して解決を図る機構を備えている。

背景

手法

  • 前準備（インデックス時）
    • チャンク分割:
    • モジュール生成:
      • 各チャンクに対してLLMが「Prologの事実(fact)と規則(rule)」を書く。
    • 抽象化: そのモジュールの内容を代表する「0-arity（引数なし）述語」（例：eligibility_for_allowance）をLLMに作らせ、その「自然言語の説明文」と一緒に保存しておく 。
  • 検索フェーズ（二段構え）
    • ステップA（チャンク検索）:
      • 質問に関連しそうなチャンク（と、それに紐付いたPrologモジュール）を数個取ってくる 。
    • ステップB（述語検索 / Predicate Retrieval）:
      • 取ってきたモジュールの中には、実は大量の細かいルール（述語）が含まれています。それらを全部LLMに見せると混乱したり、トークン制限を超えたりします。そこで、「質問の意味」と「0-arity述語の記述」をベクトル比較し、本当に使うべき述語だけを絞り込みます 。
  • クエリ生成(ユーザーの質問（自然言語）」を「Prologエンジンが実行できる形式（コード）」に変換する)
    • 「述語検索」で選び出された「エッセンスとなる述語名」のリストだけをLLMに渡します。
    • LLMは、知識ベース全体を読み込む必要はなく、「この述語を使ってクエリを組み立てて」と言われるだけなので、極めて正確にクエリを書けます 。

Attributable Prolog Synthesis

  • LLMを用いて検索された各テキストチャンクから、Prologのルール（）と事実（）からなるモジュール を生成する。
  • これにより、各事実やルールを特定のソーステキストに1対1で対応付けることが可能となり、推論過程の検証可能性（Verifiability）とトレーサビリティが確保される。

Symbolic Knowledge-Gap Detection

Prologの事実を「普遍的な事実（Universal Facts）」と「動的な事実（Dynamic Facts）」に分類する。
  • において、引数 がドメイン知識から決定できない場合、それを動的な事実と定義する。
  • 推論中にこの事実が必要となった際、対応する相互作用メソッドが起動し、ユーザーへの明確な追跡調査質問を生成する。この仕組みにより、従来のLLMが抱えていた「必要な情報を自律的に求める能力の欠如」を克服した。

具体例

「イギリスの結婚手当（Married Couple's Allowance）」の受給判定
  • 知識の取得: 法律テキストから「1935年以前に生まれたか」などの条件（Prologルール）を抽出。
  • 質問: ユーザーが「私は手当をもらえますか？」と聞く。
  • 述語検索: 大量のルールの中から、質問にズバリ答えるためのルール名 could_claim_married_couples_allowance を特定する 。
  • 足りない情報の検知: Prologを実行すると、プログラムが「誕生日はいつ？」という情報が足りないことに気づき、ユーザーに自動で質問する 。
  • 解決: ユーザーが「1935年以前生まれです」と答えると、論理がつながり "Yes" と回答する。この「法律の複雑な条件を、ユーザーとの対話で一つずつ埋めて正解に辿り着いた」のが、この論文の代表的な成功例。

実験

ShARCベンチマークを用いて、ドメイン非依存型の設定で評価を行った。
ShARC（Shared Reasoning and Context）
  • AIが「ユーザーとの対話を通じて、複雑な規則（法律や規定）に基づいた判断ができるか」を評価するためのベンチマークデータセットです 。
  • 主にConversational Machine Reading（対話型機械読解）という分野で利用され、英国政府の公式サイト（GOV.UK）から収集された実世界の法的・公的な文書に基づいています 。
  • ShARCの大きな特徴一般的なQA（一問一答）のデータセットと異なり、以下の3つの要素が組み合わさっているのが特徴です。
    • 複雑なルールの理解:
      • 「もしAならば、かつBでないならば、Cできる」といった、複数の条件が絡み合う法的スニペット（一節）を理解する必要があります 。
    • 不完全なユーザー情報:
      • 最初の質問時点では、判断に必要な情報（ユーザーの年齢や居住地など）がすべて開示されているとは限りません 。
    • 対話による解決:
      • システムは足りない情報を特定し、ユーザーにフォローアップ質問（「〜に該当しますか？」など）を投げて、最終的な判断を下す必要があります 。
 
  • 精度: NeSy-RAGは61.1%の精度を達成し、ベースラインとなるLLM RAG（42.8%）を大きく上回った。
  • 実行効率: Prologモジュールを再利用し、LLMの呼び出し回数を最適化することで、LLM RAGよりも低い平均実行時間（7.4秒）を実現した。
  • 信頼性: 知識不足を判断する「more」クラスの予測において、NeSy-RAGは61%の精度で正解を判定しており、従来のLLMベース手法（19%）と比較して圧倒的に高い信頼性を証明した。
LLM Upper Baselineとは
  • この研究において「ドメイン特化の訓練を行っていないLLMが、理想的な条件下で達成できる性能の限界値（天井）」を測定するために設定された比較対象のこと。
  • 全てのコンテキストを与える
@Kyohei Uto(kuto)

[paper] The Bitter Lesson of Tool Calling

概要

  • LLMのツール実行の手段として標準のJSON形式とpythonコードを介して行う形式(PTC; Programattic Tool Calling)を比較し、ツール実行の精度を最新のモデルを含めて網羅的に検証しPTC形式のツール実行がツール実行精度で優れた傾向を示すことを明らかにした。
 

背景

  • LLMエージェントのツール呼び出しは、関数ごとに構造化JSONを出力する方式が標準
  • ただし、コードが書けるモデルにとってJSON形式は必然ではなく設計上の選択にすぎない
  • CodeActなど先行研究はコード実行の優位を示したが、標準ベンチマーク上で複数モデル世代を横断した体系的比較は未実施だった

JSON vs Programmatic

  • JSON tool calling（ベースライン）: 関数スキーマをAPIのtoolsパラメータで渡し、モデルが呼び出しごとにJSONオブジェクトを出力する現行の標準方式
  • Programmatic tool calling（PTC）: 関数を型付きPythonスタブとして提示し、モデルがそれをimportするスクリプトを書く。エージェントループがシェルのサブプロセスで実行し、stdoutから結果を回収する
  • 実行後は stop middleware が次のモデル呼び出しを遮断してループを終了。両方式のLLM呼び出し回数を揃え、精度比較を公平にしている
 

評価設定

  • BFCL v4 の代表的な309エントリ（8カテゴリ）を使用。2024年11月〜2026年7月リリースの14モデルで評価
    • 補足: BFCL＝Berkeley Function Calling Leaderboard。関数呼び出し精度の標準ベンチマーク
  • ツールの引数値を正解と比較し呼び出しが全て揃って初めて正解

結果

  • PTCの方がJSONよりもツール実行精度が高い傾向(11/14でPTC > JSON)
  • GPT-5.6系は最大10.6ポイントの改善
  • Anthropicの5モデルは全てベースライン以上
  • GPT-4o、GPT-4.1、GPT-5.4-miniといった旧世代寄りのモデルはJSON形式が優位
 

ablation study

  • アブレーションは3種類（chaining＝逐次連鎖、parallelism＝並列実行、context rot＝文脈汚染）
実験内容結果解釈
Chaining複数のツール実行を連鎖的に行う場合の検証(連鎖長 2〜20)連鎖長が12以上でPTCが JSONを平均18.8pt上回る。 Claude Sonnet 5 が 80.8%→96.2% で最大の伸び。 処理速度が半減PTCは1スクリプト内で複数ツールの連鎖的な処理を表現可能、JSONはツール実行→推論→ツール実行を繰り返す必要があり連鎖長が伸びると性能差が出ている
Parallelismツール実行を並列化した場合の検証(並列数 7〜48)13/14モデルでPTCが優れた結果。 GPT-5 は 71.9%→96.9%jsonの場合並列数分だけ明示的にjson配列として列挙が必要。PTCはforループによって記述量を減らせる
Context rot無関係のツールを含む128個のツールを定義してコンテキスト汚染への耐性を検証JSON は −2.3%、 PTC は +5.5%差は小さめだがPTCは少なくとも悪化はせず
 

結論

実務的な示唆としては、社内で AI エージェントパイプラインを組む際、多段連鎖や大量の並列呼び出しがある処理はコード実行方式が有利、単発・少数呼び出しなら JSON 方式がトークン効率で有利、という切り分けになる。
 

限界

  • BFCLのスタブは引数をそのまま返すだけなので、測っているのは引数シリアライズの正確さであり、戻り値が後続呼び出しに影響する実環境の正しさではない
  • アブレーションのサンプル数が31〜52と小さく、個別モデルの結果は方向性の参考にとどまる。信頼できるのはモデル横断の集計傾向のみ
  • PTCは入力トークンが割高。連鎖タスクではJSONの1.5倍。ただし高ファンアウトでは逆転する

メインTOPIC

TG-RAG: A Retrieval-Augmented Framework for Reasoning Guidance in Specialized Domains

Liang Su ⋅ Mingyang Zhang ⋅ Yun Xiong ⋅ Tengfei LIU ⋅ Siwei Zhang ⋅ Xi Chen ⋅ Li Sun
ICML2026 oral
github: https://github.com/V1ncent-S/Thought-Guidance
自然言語で書かれた手順書をオートマトンに落とし込むことで、Agentが手順に従って動く性能を高めたという論文。決定的なワークフローというわけではなく、それぞれの分岐はLLMが判断する。ある状態における分岐に際してどのような選択肢があるのかをけってい提示する。

1. Introduction

大規模推論モデル（LRM）と専門領域のミスマッチ
DeepSeek-R1やQwen3などのLRM(Large Reasoning Model)は、内面化された「思考の連鎖（CoT）」により高度な推論が可能である。一方で、医療や金融などの高い信頼性が求められる専門領域において、業務手順書（SOP / Standard Operating Procedures）を「エージェントスキル（指示ファイル等）」として動的に検索・適用しようとすると、重大な問題が発生しうる。
専門領域での限界
専門領域のタスクを実行する際、現在の自律エージェントは専門知識やSOP（標準業務手順書）を「スキル（命令ファイルなど）」として検索・適用する傾向にあります。しかし、SOPが複雑な条件分岐や長い思考チェーンを伴う場合、モデルは手順を逸脱してしまう「認知ドリフト（Cognitive Drift）」を頻繁に引き起こします。医療や金融などの安全性が極めて重要な分野では、わずかな論理的エラーが深刻な結果につながるため、手順への厳格な準拠が必須となります。
従来手法の限界
  • プロンプトエンジニアリング： 初期プロンプトで静的な計画を提供することはできるが、推論プロセスが長くなるにつれてプロンプトの効果（拘束力）は減衰してしまう。
  • モデルのファインチューニング： リソース消費が激しく柔軟性に欠け、専門知識の迅速な更新に対応できないほか、モデルの一般的な推論能力を損なうリスクがある。
  • 標準的なRAG / RAT（Retrieval-Augmented Thought）： RATなどは推論ループ内でリアルタイムに事実やガイダンスを検索するが、これらはプロンプト内で「受動的な文脈情報（Passive Context）」として提供されるだけである。そのため、モデルが指示を無視したり、推論ステップをハルシネーションしたりすることを強制的に防ぐことはできない。
TG-RAGの提案
この問題を打破するため、本論文では「思考誘導（Thought Guidance: TG）」という新しいコンセプトに基づき、SOPを形式化した「専門家手順グラフ（Expert Procedure Graph: EPG）」と、モデルの生成をリアルタイムで制御する「中断・検索・生成（Interrupt-Retrieve-Generate: IRG）」メカニズムを提案する。これにより、ガイダンスを受動的な参考資料から、推論を強制的に拘束する「能動的な状態遷移（Active State Constraints）」へと転換する。
 

2. Related Work

検索拡張生成（Retrieval-Augmented Generation: RAG）
標準的なRAGは外部から事実情報を検索して入力プロンプトを強化する。近年では「思考テンプレート」を事前にプロンプトに挿入するアプローチ（BoTなど）も登場しているが、これらはプロンプトレベルの静的コンテキストに依存しており、モデル自身の指示追従能力に実行が委ねられている。
RATは推論ループ内で検索を統合し自己修正を行うが、依然として受動的なガイダンスにとどまる。TG-RAGは生成をプロアクティブに「中断」してステップごとの指示を直接注入する点でRAGやRATとは異なる。
制御可能な推論制御（Controllable Reasoning Steering）
プロンプトによる静的制御や、ToT（Tree of Thoughts）やGoT（Graph of Thoughts）といった複数経路探索手法が存在するが、探索手法は非常に高い計算コストを伴う。また、モデルの内部状態に介入する手法は主にエラーが発生した後に「反応的（リアクティブ）」に修正を行うものである。対照的にTG-RAGは、EPGをトポロジー的な制約として利用し、推論の初期段階から軌道を「能動的・予防的」に保護するものである。
 
 

3 Methodology

TG-RAGは、エージェントスキルに内在する論理構造（SOPベース）を厳密に実行させるための、クローズドループシステム（循環制御システム）である。TG-RAGは以下の２つのコアコンポーネントからなる。
  1. 専門家手順グラフ（Expert Procedure Graph: EPG）
  1. 中断・検索・生成（Interrupt-Retrieve-Generate: IRG）メカニズム

3.1 Preliminary

通常のLRM M における自己回帰的な生成確率（ここで、y は中間推論 r と最終回答 a に分割される: y=[ra]）は、以下のように表されます。  
従来のRAGやプロンプトエンジニアリングは、静的な命令 I や検索知識 K を入力プロンプト x′=[IKx] として結合するだけで、推論軌道 r 自体はモデルのパラメトリックな確率に完全に依存します。
これに対してTG-RAGは、各ステップの確率空間に直接介入し、手順指示 g を動的に注入することで、特定ステップ t における推論生成を強制的に以下のように変形することとなる。

3.2 専門家手順グラフ（Expert Procedure Graph: EPG）

手順ロジックとドメイン知識の「分離」
多くのエージェント開発において、スキルは雑多なXMLファイル内に手順と知識が混在してカプセル化されているが、TG-RAGではこれを「手順ロジック（普遍的で変化しないスケルトン）」と「ドメイン知識（動的に更新されるファクト）」に完全に分離して有向非巡回グラフ G=(V,E) として管理する。
各ノードは のタプルで定義される。
  • ：Action Directive Guidance（ステップごとの不変の手順指示）。
  • ：Knowledge Container（外部知識ベースやRAGシステムとシームレスにデータ連携可能なインターフェース）
 
Chain-of-Treesトポロジー
マクロなレベルでは順次処理される「分析ステージの鎖（Chain）」（図の上側の Anakytical Stage ）、ミクロなレベルでは条件分岐を表現する「意思決定サブツリー（Tree）」（Analutical Stages から生えている下側のnode）として構成される。
この木構造により、「エラーの隔離（Error Isolation）」が実現する。すなわち、あるサブツリーで下された誤ったルーティング判断は局所的な分析の範囲内に閉じ込められ、システム全体の他の独立したロジックにエラーが波及するのを防ぐことができる。
example
特殊ノード
  • Rootノード（起点）：必ず固定の入り口から推論を開始させることで、モデルが都合よく初期設定や基礎的な診断手順を省略することを防ぐ。
  • Reflectionノード（自己修正）：要所に配置され、生成された中間回答が初期クエリやこれまでの分析結果と矛盾していないかを強制的に振り返らせ、自己修正を促します
構築とメンテナンス性
LRMを用いて生ドキュメント（医療ガイドラインや金融規定など）からトポロジー構造を半自動で抽出し、専門家は構造の確認（分岐の正しさの検証のみ）を担当する。この仕組みにより、人間の作業時間は専門知識領域あたりわずか30分程度に削減されるとのこと（ほんまか？）。ドメイン知識が更新された場合も、トポロジーを変更することなく、RAGが参照する外部知識ベース（知識コンテナに紐づく資料）を書き換えるだけで対応可能な「ホットスワップ（即時差し替え）」に対応。

3.3 中断・検索・生成（Interrupt-Retrieve-Generate: IRG）メカニズム

静的なEPGを実際の推論ステップにおいて動作させる、動的な推論エンジンである。
3.3.1 IRGの起動パイプライン
  1. タグ埋め込み： システムプロンプトを通じて、LRMの各推論ステップを構造化タグ（ と ）で囲むよう指示する。
  1. 物理的中断： 推論エンジン（vLLMなど）のシーケンス中断機能を利用し、モデルが閉じタグ を出力した瞬間に生成プロセスを一時停止させる。
  1. 状態特定と再開： 停止中、セマンティックルーターが直前までの推論テキストを検証して次のEPGノードを特定し、新しい指示を文脈に直接追加したうえで、生成を再開する。
3.3.2 状態依存セマンティックルーティング（State-Dependent Semantic Routing）
条件分岐が必要なノードでは、単純なベクトルの類似度検索ではなく、モデル自身に「これまでの分析内容と、提示された選択肢のうちどれが合致しているか」をコンテキストに沿って分類・判定（セマンティックルーティング）させる。
また、定義されたEPGに収まらない未知の状況に直面した場合のセーフティネットとして、モデル本来の推論能力に一時的に切り替える「オープンブランチ（Open Branch）」を組み込む。
3.3.3 デュアルパスウェイインジェクション（Dual-Pathway Injection）
特定された次のEPGノードから取得された情報は、情報レベルの希薄化や認知負荷を防ぐために、2つの異なるルートからモデルへ適用される。
  1. 知識コンテナ Cv： 外部RAGから取得したデータや背景知識など、推論を補強する事実情報を「入力プロンプト x′=[x⊕Cv]」に注入します（ファクトの土台）。
  1. アクション指示ガイダンス gv： 不変の手順指示を、これまでの推論履歴の末尾 r<t′=[r<t⊕gv] に直接物理的に追加（インジェクション）する。つまりCoTにぶちこむ。これにより、モデルの次のトークン予測は外部のSuggestion（示唆）ではなく、強制された手順（次のステップ）として機能する。
 

4 Experiment

4.1 実験設定 (Experiment Setup)

以下の２つのカテゴリにまたがる5種類の推論タスク
  1. 専門家主導タスク：加盟店不正分析（金融）、疾患の鑑別診断（医療）、天文観測データ判断（天文）。
  1. 一般推論ベンチマーク：GSM8K（多段階数学推理）、StrategyQA（多ホップ論理推理）。
バックボーンモデル
Qwen3-32B、DeepSeek-R1-Distill-14B、および-32B。
評価方法
vLLM上で推論を行い、温度0.7、Top_p 0.95で実行。統計的な再現性を確保するため「5回の独立試行」を行い、エンドツーエンドの正確性（Accuracy）の平均と標準偏差（±σ）を測定。
比較対象（ベースライン）
非検索型（Direct、Few-Shot CoT、CoT-SC、Plan-and-Solve）および検索拡張型（Naive RAG、Self-RAG、IR-CoT、RATT）。

4.2 全体比較 (Overall Comparison)

TG-RAGは、検証したすべてのタスクとモデルアーキテクチャで極めて優秀な成果を収め、特に「手順の遵守が重要な専門領域」でその優位性が際立った。
  • 金融（Finance）タスク（Qwen3-32B使用時）
    • TG-RAGは平均精度 76.4%を達成し、Self-RAGの64.1%やRATTの71.2%を大幅に上回る。
  • 医療（Medical）タスク（R1-Distill-14B使用時）
    • Naive RAG（82.4%）やIR-CoT（86.4%）に対して、TG-RAGは90.4%の精度を示した。
  • 一般タスク
    • GSM8KやStrategyQAにおいても、手順を直線的なチェーンとして応用（EPC）することで高い性能を発揮（Qwen3-32Bを用いたGSM8Kでは99.1%の精度を達成）。
出力の安定性
TG-RAGは全体的に標準偏差がベースラインに比べて低く抑えられており、確実な手順追従が「高い再現性と安定性」をもたらすことが実証されたと言えそう
 

4.3 アブレーション・スタディ (Ablation Studies)

TG-RAGを構成する個々の機能が、どの程度効果に寄与しているかを実証的に検証
Chain-of-Tree構造の検証
すべての分岐手順を1つの平坦な指示ファイルに統合した「固定パス（Fixed-Path EPG）」と比較。結果、Chain-of-Tree構造は固定パスに比べて金融で5%、医療で6%、天文で10%高い精度を示した。固定パスでは関係のない条件の指示までモデルに読み込ませるため、「認知負荷」と情報の冗長性が増加するが、Chain-of-Treeは各分岐点で不要な意思決定パスを動的に「刈り込み（プルーニング）」できるため、推論の焦点を絞り込むことができると考えられる。
知識とガイダンスの二重経路注入の有効性
「知識のみ注入（指示なし）」と「手順指示のみ（知識補強なし）」に分離して比較。結果、両方を組み合わせたフルモデルが最も高い成果を示した。金融などのプロセス主導型ドメインでは両者の相乗効果が大きく、「手順を知っていること」と「事実を知っていること」の双方が不可欠であることが言えそう。
インジェクション戦略の比較
ステップ指示をプロンプトの先頭に単に追加する「プロンプト内統合（In-Prompt Integration）」と比較。TG-RAGの推論プロセス内への直接注入（Reasoning Process Injection）は、特に天文タスクで12%の性能向上を示した。プロンプト内に置かれた指示は他の情報トークンに埋もれて「アテンション（注意）の希釈化」を招くのに対し、推論プロセスに直接割り込ませることで強制的な状態遷移となり、プロトコルの執行力が圧倒的に高まるのではと考えられる。
 
動的実行（IRG） vs 静的実行
同じ手順ロジックを1つの静的なプロンプトに収めて実行させる手法（BoTスタイル）と比較したところ、TG-RAGは金融領域で14%高い精度を示した。静的アプローチでは、推論が長くなるにつれてプロンプト内の指示に対する遵守が低下する「遵守の減衰（Adherence Decay）」や「文脈飽和」が起こる。これに対し、IRGメカニズムは各ステップで「今必要な局所的な指示のみ」を注入するため、モデルの認知リソースを節約し、各分岐点での「軌道修正（再アンカー）」として機能して、初期エラーの蓄積を防ぎぐ。
 

5. Conclusion

TG-RAGは、複雑な専門タスクでLRMが手順から逸脱する「認知ドリフト」への根本的な対策となりうる。
従来の入力文脈の拡張（受動的なRAG）とは異なり、EPGによる論理的トポロジー制約の定義と、IRGによる推論プロセスへの能動的な介入を組み合わせることで、専門領域のSOPに厳格に準拠した高精度な思考エージェントの実現を、追加トレーニングなしで達成できることを証明した。
 

Appendices

付録A：オープンブランチ（Open Branch）の活性化分析
定義されたEPGに当てはまらないケースに遭遇した際に一時的にモデル本来の思考能力へエスケープする「オープンブランチ」であるが、実験中、この回避ルートが起動されたのは全体の1%未満」であった。これは、ドメイン専門家が定義したSOPが日常的な業務シナリオを極めて高いカバー率で網羅できていること、またEPGの設計品質が極めて堅牢であることを示す。
付録B：EPGの具体的な構築手順と実装例
EPGは以下の3つのステップで半自動的に構築されます。
  1. 解析（Parsing）：LRMを構造化パーサーとして用い、未加工SOP文書から重要な分析ステージ、チェック条件、および最終アクションを抽出
  1. マッピング（Mapping）：抽出したステップをノード（指示 gv と知識コンテナ Cv）に変換し、条件分岐をエッジ（Edge）として繋ぎ合わせ、有向グラフを構築
  1. 専門家検証（Verification）：人間の専門家がトポロジーの整合性のみをレビューします。ゼロから執筆する必要がないため、約30分で完了し、その後の大量のインプレッションにその効果が活かされ続ける。
  1. 実装（B.2）： コード上では、マクロ手順を決定する （順次処理）と、意思決定サブツリーを定義する （選択分岐）を組み合わせた、入れ子状の辞書形式（Nested Dictionary）で記述され、コードが論理的なトポロジーを完全に制御する。
付録C：効率性（レイテンシー）分析と軽量化
  • 複雑度の抑制： TG-RAGは動的に状態遷移を行うため、Directな回答（一発生成）よりは時間を要する。しかし、すべての経路を探索して指数関数的にコストが爆発するToT（Tree of Thoughts）とは異なり、推論深度に対して完全に線形（Linear）なオーバーヘッドにとどまりまる。
  • 「過剰思考」の解消とオフロード： 詳細な時間測定を行ったところ、処理時間の約85%は「推論のステップ生成」ではなく、次の分岐を選択する「セマンティックルーティング（Branch Selection）」に消費されていることが判明した。これは、強力な推論モデル（32B等）が、単純な条件比較などの簡単な判断ステップにおいて、その強力な推論能力ゆえに不要な「熟考（過剰思考）」を発生させてしまうためです。 そこで、ルーティングタスクのみを推論機能を持たない軽量なQwen2.5-7Bへオフロード（別モデルに担当）させる戦略をとった結果、精度を一切落とすことなく、全体の処理時間を50%以上も削減することに成功しました。
付録E：知識統合の差別化
  • 一般的なRAGとの違い： 一般的なベクトル型RAGは、ユーザーの質問に対する「意味の類似度」に基づいて大量の非構造テキストを検索しますが、TG-RAGはモデルの推論が進むにつれて、EPGのノードから「そのステップに直接紐づけられた専門知識」をピンポイントで検索（状態依存検索）します。これによりハルシネーションを極めて強力に抑制し、確実なファクトチェックを可能にしています。
 
プロンプト
 
Xでポスト