📊 论文图表(共 17 张)

展开查看 17 张图

‹ ›

TL;DR

SOPHIA 将大语言模型的推理轨迹重新建模为离散潜在状态序列，通过统计发现错误轨迹普遍陷入自循环而非有序推进，并据此构建按状态对索引的激活转向向量库。实验表明，该方法可在推理时可靠检测并打破自循环，将局部逃离率从基线的 25% 左右提升至 80–100%，且向量在不同状态对间展现出良好的迁移能力。

研究背景与动机

长链推理已成为前沿大语言模型的标配能力——通过思维链展开，模型得以在复杂数学证明、多步逻辑推导和代码生成等任务上取得显著进步。然而，这种扩展推理的轨迹本身几乎是不可控的：模型生成的每一步“思考”都依赖自回归采样，缺乏对推理过程本身的有效干预手段。

一个令人头疼的现象是，模型常常陷入自我循环（self-loop）。具体表现为：反复验证同一个中间结论、在不同的尝试之间来回摇摆、或者不断重复“我再想想”。这些行为消耗大量 token 预算，却迟迟不向最终答案推进，最终往往导致失败。论文在 AQuA、GSM8K、LogiQA 和 MATH 四个数据集上做了系统统计，发现错误轨迹的平均 token 长度始终显著高于正确轨迹——这意味着“过度思考”并非高质量推理的副产品，而是一种需要被干预的失败模式。

现有方法大多停留在输入级干预。强化学习方法（如 L1、SCoRe）需要昂贵的模型重训练，且训练好的模型无法在推理时动态调整。推理时的 token 流惩罚或提示注入只能间接影响采样分布，无法对推理过程本身施加细粒度控制。更关键的是，标准 [[激活转向]] 方法通常只学习一个全局方向，即对所有状态施加相同的偏移向量。这种 state-agnostic 的设计忽视了不同状态对之间所需修正信号可能截然不同——打破一个验证循环所需的残差流向，与巩固一个候选答案所需的残差流向，很可能根本不在同一方向上。

SOPHIA 的核心洞察正在于此：如果把推理轨迹视为一个潜在状态序列而非无结构的文本序列，那么最具体、破坏力最大的失效模式就是自循环 $z_{t+1}=z_t$，而不同状态对之间的修正信号本质上是分布在不同残差流方向上的异质向量。

方法

SOPHIA 的全称是 Steering Of reasoning Processes via Hidden-state Intervention and Activations，意为通过隐状态干预和激活来引导推理过程。该方法是训练自由的，由一个离线构建阶段和一个在线推理控制器组成。

第一步：步骤切分与状态聚类。 论文以句首语篇标记（如"Now"、"Therefore"等常见的推理衔接词）为边界将推理轨迹切分为离散的步骤。随后使用一个独立的嵌入模型 $M_{\text{emb}}$（主实验采用 Qwen3-4B-Base，解耦于目标推理模型以避免 chat-tuning 带来的几何畸变）对每个步骤的最后一层隐状态做均值池化，得到该步骤的向量表征：

对所有步骤特征做 z-score 标准化后，按数据集独立执行 K-means 聚类（$K=5$，固定随机种子）。这产生了五个语义上有意义的推理相位：题面阅读、初步计算、中段验证、后段斟酌、尾段犹豫。聚类的关键设计在于采用均值池化而非累计特征——这一选择确保同一轨迹中的步骤确实在不同的簇之间迁移，而非被错误地归为同一停留状态。

第二步：状态转移分析。 对每个非终止步骤，论文定义了二元转移指标 ${\beta }_i=1\{z_i\ne z_{i+1}\}$，据此将每个簇内的步骤分为两类：跨簇前进的 "crosser" 和原地停留的 "stayer"。通过分析相位排序后的转移矩阵，论文揭示了一个惊人的结构：所有四个数据集的轨迹均遵循严格的五相位吸收链，转移矩阵呈严格上双对角结构，停留质量超过 0.93，向后转移概率为零。这意味着推理轨迹并非在任意状态间跳跃，而是沿着一个近确定性的有序序列推进——一旦陷入自循环，模型实际上是在某个相位上反复徘徊，无法进入下一个阶段。

第三步：构建状态对转向向量库。 核心操作是对每个簇 $c$ 和每个被干预层 $\ell$，提取对比方向：

即该簇内跨簇前进样本的平均隐状态减去原地停留样本的平均隐状态。论文从理论上论证了这一选择的合理性。在 Lemma 1 中，设 $p_c(e):=\mathrm{Pr}[z_{i+1}\ne c\mid z_i=c,h\mapsto h+e]$，则可微条件下的一阶近似表明，凡使 $⟨e,{\nabla }_e{p}_c(0)⟩>0$ 的小扰动都能在局部提升离开当前簇的概率。而 Proposition 1 则证明，在交叉者与停留者共享协方差的高斯假设下，最大化类间分离的 Fisher 判别方向恰好正比于这个对比向量。因此，$v_c^{(\ell )}$ 可以被理解为对梯度方向的一个非白化近似——它不需要显式估计协方差矩阵，通过对比采样即可获得。

在线推理控制器。 推理时，控制器维护一个 token 缓冲，按相同的句首标记正则切片步骤。对刚完成的步骤，控制器复用 $M_{\text{emb}}$ 的 KV cache 做均值池化、z-score 和最近质心分类，得到当前状态估计。当检测到连续两步属于同一簇时（$z_i=z_{i-1}$），即触发自循环门——这一设计避免了对模型首次抵达某簇时正常停留的误干预。随后，对下一解码步的每个 token，在指定层 $\ell \in \mathcal{L}$ 执行残差流补丁：

通过逐层单位归一化加残差范数缩放，单一的全局超参数 $\alpha$ 即可控制干预强度，无需为每一层单独调参。

实验与结果

实验覆盖三个模型（Qwen3-4B-Thinking-2507、Qwen3-32B-Thinking、Gemma-4-E2B）和四个数据集（GSM8K、AQuA、LogiQA、MATH），每个 (model, dataset) 单元下对五个簇分别测试四种干预条件：Greedy decoding（无干预基线）、Random steering（范数匹配的高斯随机向量）、Negative steering（反向施转向量）以及 SOPHIA（正向施转向量）。

局部 hit-rate（衡量错误轨迹的 stayer prefix 在干预后下一解码步能否成功脱离当前簇）的结果清晰地表明了方法的有效性。在 Qwen3-4B-Thinking-2507 上，GSM8K 的 C3 簇从基线 25.0% 跃升至 100%，AQuA 的 C0 簇从完全无法逃离（0.0%）提升至 51.7%。在更大规模的 Qwen3-32B-Thinking 上，AQuA C0 从 53.3% 升至 92.9%，Gemma-4-E2B 的 Math C1 从 5.0% 升至 29.2%。Random steering 与 Greedy decoding 几乎无差异，Negative steering 在多数簇上反而降低了逃离率——这有力地证明效应来源于方向性而非任意扰动。

更值得关注的是泛化特性。向量不仅在同一状态对内有效，还能跨不同的状态对迁移适用，这暗示对比方向捕捉的是推理过程中某种通用的“前进信号”，而非特定簇的表面特征。跨模型实验进一步表明，同一套提取流程（聚类、向量构建）不需要重新训练或微调即可在不同架构和规模上生效。

讨论与可借鉴点

SOPHIA 最引人注目的贡献在于将推理控制从“输入级提示”提升到了“潜在状态转移级”。通过实证揭示的五相位严格上双对角结构，为后续研究提供了宝贵的先验知识：一旦模型进入某个相位且连续停留，即可高置信度地判定为自循环而非正常推理。这一发现对强化学习中的长度控制、推理时的 token 预算分配等问题均有直接的启示价值。

然而，当前方法仍有明显局限。端到端的任务准确率和 token 效率提升尚未完整披露，局部 hit-rate 的改善能否可靠转化为最终答案正确率的提升，仍需进一步验证。此外，当前仅处理自循环这一最具体的失效模式；如何扩展到任意方向的状态转移干预（如主动将模型从“过度验证”拉向“尝试下一子问题”），是更通用控制的关键一步。小样本统计（$N=30$）也限制了结论的置信度，显著性检验的缺失让效果评估不够严谨。

从方法论层面，SOPHIA 展示了“将推理过程建模为离散潜在状态序列”这一视角的潜力。这一思想与 [[思维链推理]] 的传统做法形成鲜明对比——后者将推理视为无结构的文本流，而前者通过状态抽象抓住了推理的语义本质。对比方向提取 + 状态对索引向量库的设计，则提供了一种训练自由、部署即用的细粒度控制范式，值得在更多推理控制场景中探索迁移。

Abstract

Extended reasoning has become standard for frontier Large Language Models (LLMs), yet the trajectories these models produce remain largely uncontrollable. Existing methods for shaping how a model reasons are prompt based approaches and operate at the input level, offering no fine-grained control over the reasoning process itself. Related work analyzes and discovers latent transition dynamics in the reasoning traces from Large Language Models. Building on this, we statistically characterize these states, and show that failure trajectories get stuck in self-loops, exhausting the token budget without progress toward the final answer. To intervene on these failures, We propose SOPHIA: Steering Of reasoning Processes via Hidden-state Intervention and Activations. We treat each reasoning trace as a sequence of latent states rather than an unstructured texts, and investigate whether inference time interventions can provide fine-grained control over the self-looping reasoning process. We classify every prefix to a latent state, record step level transitions, and use them to construct a bank of steering vectors indexed by state pairs. At inference time, a controller infers the current state and, given a target state, retrieves the corresponding vector and can also detect self-loops online from the transition structure to prevent the model from sinking into a reasoning black hole. Through extensive experiments, our method reliably intervenes on self-loop failures, with steering vectors that generalize to different state pairs. End task accuracy and token efficiency indicate that fine-grained controllability results in better reasoning quality.

论文详细总结（自动生成）

论文总结：SOPHIA — 通过激活转向打破 LLM 推理中的自循环

1. 核心问题与研究动机

前沿大语言模型（如 OpenAI o1 系列、Qwen3-Thinking 系列）通过长链思维链（Chain-of-Thought）扩展推理以应对复杂任务，但在长推理轨迹中常常出现自循环（self-loop）——模型反复在验证、再问、重做等冗余状态间切换，逐步消耗 token 预算却迟迟不向最终答案推进，最终常见导致错误。

• 统计观察：在 AQuA、GSM8K、LogiQA、MATH 四个数据集上，错误轨迹的平均 token 长度始终远大于正确轨迹（图 2），说明过度"思考"与失败高度相关。
• 现有方法局限：
• 强化学习方法（如 L1、SCoRe）需昂贵训练，部署后无法介入；
• 推理时方法（thought-switching penalty、underthinking-triggered prompt）仅作用于输入层 token 流，缺乏对推理过程本身的细粒度控制；
• 标准 steering vector 通常是state-agnostic（与状态无关的单一全局方向），无法区分"打破验证循环"与"巩固候选答案"所需的不同修正信号。
• 关键洞察：将推理视为潜在状态序列 $z_t\in \{0,\dots ,K-1\}$，则最具体且破坏性最大的失效模式即自循环 $z_{t+1}=z_t$，且不同状态对之间的修正是分布不同的残差流方向。

2. 方法论

2.1 总体框架：SOPHIA = Steering Of reasoning Processes via Hidden-state Intervention and Activations

训练自由（training-free），由离线三阶段 + 在线一控制器组成。

2.2 步骤切分与状态聚类（离线阶段 Ⅰ–Ⅱ）

• 切分：以 sentence-initial discourse marker（句首语篇标记）作为步骤边界。
• 嵌入：用参考模型 $M_{\text{emb}}$（主实验为 Qwen3-4B-Base）对每个步骤的 last-layer 隐状态做均值池化：

$$z_i=\frac{1}{e_i-s_i}\sum _{t=s_i}^{e_i}{h}_t^{\text{emb}}\in {\mathbb{R}}^{d_{\text{emb}}}$$

• 聚类：对步骤特征做 z-score 后按数据集独立做 K-means（$K=5$，seed=42），得到 $z_i\in \{0,\dots ,K-1\}$ 和质心 $\{{\mu }_c\}$。

> 关键设计选择：步骤特征采用均值池化而非累计 Gram 特征，使同一轨迹中的步骤确实在不同簇间迁移（最长单簇 run 由 25–30 降至 7–15）。

2.3 状态转移分析（离线阶段 Ⅲ）

标记每个非终止步骤的二元转移指标：

对每个簇 $c$ 收集 crosser 集合 ${\mathcal{C}}_c=\{i:z_i=c,{\beta }_i=1\}$ 与 stayer 集合 ${\mathcal{S}}_c$。

核心统计发现（相轨迹分析，附录 B）：四个数据集的相位排序转移矩阵均呈现严格上双对角 + 吸收态结构：$P_{ij}=0$（$j<i$），$P_{i,i+1}$ 唯一前向质量，$P_{55}=1$（末端吸收）。轨迹遵循 $P_1\to P_2\to P_3\to P_4\to P_5$（题面阅读 → 初次计算 → 中段验证 → 后段斟酌 → 尾段犹豫）的近确定性五相位序列（停留质量 $>0.93$，向后质量 $=0$）。

2.4 转向向量提取（离线阶段 Ⅲ 续）

对每一簇 $c$ 与被干预层 $\ell$，取残差流激活的对比方向：

其中 ${\bar{h}}_{c,\to }^{(\ell )}=\frac{1}{|{\mathcal{C}}_c|}{\sum }_{i\in {\mathcal{C}}_c}{h}_i^{(\ell )}$，${\bar{h}}_{c,\circlearrowright }^{(\ell )}$ 同理。

理论依据：

• Lemma 1（局部退出一阶响应）：设 $p_c(e):=\mathrm{Pr}[z_{i+1}\ne c\mid z_i=c,h\mapsto h+e]$，可微时

$$p_c(e)=p_c(0)+{\nabla }_e{p}_c(0{)}^{\top }e+o(\Vert e{\Vert }^2)$$

凡使 $⟨e,{\nabla }_e{p}_c(0)⟩>0$ 的小扰动都能在局部提升退出概率。

• Proposition 1（对比方向即 Fisher 判别方向）：在交叉者与停留者的高斯共享协方差假设下，最大化类间分离的线性判别为

$$v_c^{\text{Fisher}}\propto {\Sigma }_c^{-1}({\mu }_c^{\to }-{\mu }_c^{\circlearrowright })$$

即 $v_c^{(\ell )}$ 是非白化、近似 Fisher 方向的代理量。

2.5 在线控制器（推理时）

• 维护 token 缓冲，按相同句首标记正则切片；
• 用 $M_{\text{emb}}$ 复用 KV cache，对刚完成步骤做均值池化、z-score、按最近质心分类：

$$z_i=\arg \underset{c\in \{0,\dots ,K-1\}}{\min }\Vert z_i^{\text{feat}}-{\mu }_c{\Vert }_2$$

• 自循环门（self-loop gate）：当 $z_i=z_{i-1}$（最近两步同簇）即触发干预，避免对模型首次抵达该簇时的有效推理误操作。
• 残差流补丁（residual-stream patching）：对下一解码步的每个 token、每一被干预层 $\ell \in \mathcal{L}$：

$${\tilde{h}}_t^{(\ell )}\leftarrow h_t^{(\ell )}+\alpha \cdot \frac{\Vert h_t^{(\ell )}{\Vert }_2}{\Vert v_c^{(\ell )}{\Vert }_2}\cdot v_c^{(\ell )}$$

（逐层单位归一化 + 残差范数缩放，使单一全局 $\alpha$ 控制强度）。

• 超参：$K=5$（固定）；$\mathcal{L}$ 为模型 decoder 中-后层；Qwen-Thinking 模型取 $\alpha =0.05$，Gemma-4-E2B 取 $\alpha =0.025$（再大则退化成 token 循环，作为偏移已作用于残差流的健全性信号）。

附录 A 进一步把整个控制器抽象为策略 $\kappa$ 求解：

其中 $e_t={\alpha }_t{v}_t$，$i_t=\arg {\max }_i{q}_{\varphi }(i\mid {\xi }_t)$。

3. 实验设计

3.1 数据集与场景

3.2 模型

• 转向目标：Qwen3-4B-Thinking-2507（主实验）、Qwen3-32B-Thinking、Gemma-4-E2B（共三个模型 / 两个家族）。
• 嵌入模型：Qwen3-4B-Base（与目标模型解耦，以避免 chat-tuning geometry 干扰聚类稳定性）。

3.3 基线（每簇 hit-rate，$N=30$ stayer prefixes）

3.4 评估目标

• **局部 *hit-rate***：在错误轨迹的 stayer prefix 上，看模型在下一解码步是否成功退出当前簇；
• 端任务表现：最终任务准确率与 token 效率（正文摘要中提及，附录/正文标注为 TBD 待补全）。

4. 资源与算力

论文未提供完整算力披露。NeurIPS Paper Checklist 第 8 项明确回答 "No"，仅命名了模型与 artifact 规模（trace/step 计数），未给出 GPU 型号、数量、训练 / 推理 wall-clock 时间或显存占用。

> 若复现所需最低算力根据隐状态缓存与逐 token 残差补丁粗估，至少需一台能装下 Qwen3-32B-Thinking 的 GPU（如 A100/H100 80GB），并承受每步对 $\sim 18$–$35$ 层重复解码的开销。

5. 实验数量与充分性

5.1 实验矩阵覆盖

• 3 模型 × 4 数据集 = 12 个 (model, dataset) 单元；
• 每个单元 4–5 个簇 × 4 个干预条件 ≈ $12\times 4\times 4\approx 192$ 个 hit-rate 数值（Table 1）；
• 相位轨迹分析附加 4 个数据集 × 多视角（原始矩阵、相位排序、t-SNE、停留/前向/后向统计）；
• 理论结果含 Lemma 1 + Proposition 1 两个完整证明。

5.2 客观与公平性评价

• 设置多个对比（random、negative、greedy）排除"任意扰动假说"与"方向符号无意义假说"；
• 簇 ID 在（model, dataset）间 Hungarian 对齐率 $<0.4$，方法拒绝跨模型/跨数据集共享 ID，按对独立拟合，避免人为对齐偏差；
• 不在提取时条件化 trace 正确性，避免样本量被腰斩。

不过仍有不充分之处：

1. 端到端实验为 TBD：摘要中提及"end task accuracy and token efficiency"，但附录 Checklist 与正文多处坦承完整 steering / transfer / ablation 评估仍未提交具体数据；

2. hit-rate 是局部指标：仅衡量"下一步骤是否脱离当前簇"，下游答案正确率未与 hit-rate 完全挂钩报告；

3. 小样本 $N=30$ 限制：统计置信度有提升空间，未报告置信区间或显著性检验（Checklist 第 7 项标 N/A）；

4. 跨数据集对齐、超越自循环的任意状态对迁移均属结论中"未来工作"。

6. 主要结论与发现

1. 自循环是 LRM 的主要失败模态：四个数据集上错误轨迹的 token 长度均显著高于正确轨迹，且其相位轨迹呈现以 $P_5$ 为吸收态的严格前向链 + 大量停留质量。

2. 状态间需要不同方向：单全局 steering vector 在打破一种自循环时会失效于另一种；不同 transition type 的对比向量在激活空间中聚为分离簇（图 3b），证明细粒度状态对索引库必要。

3. SOPHIA 可靠打破自循环（Table 1 示例）：

• Qwen3-4B-Thinking-2507：GSM8K C3 由 25.0% → 100%，AQuA C0 由 0.0% → 51.7%；
• Qwen3-32B-Thinking：AQuA C0 由 53.3% → 92.9%，Math C3 由 29.6% → 39.3%；
• Gemma-4-E2B：AQuA C1 由 5.0% → 29.2%，Math C2 由 10.0% → 30.8%。

4. 效应方向性而非幅值：random steering 与 greedy 几乎无差异；negative steering 多处降低 hit-rate（验证 $v_c^{(\ell )}$ 确实近似 ${\nabla }_e{p}_c(0)$ 方向）。

5. 跨模型 / 跨规模可迁移：3 套模型（含不同架构）不重调提取步骤即可受益。

6. 方法训练自由：不更新模型权重，仅靠离线构建的向量库 + 在线两步自循环门即可生效。

7. 优点

• 视角新颖：把推理控制从"输入级 prompt"提升到"潜在状态转移级"，并定位自循环为可被自动化检测的离散事件；
• 理论与实证兼备：以一阶 Taylor 展开 + Fisher 判别为转向方向提供可解释的数学依据，与"crosser minus stayer"的对比式抽取形成闭环；
• 训练自由：避免强化学习式重训，部署后即可介入；
• 通用性：跨模型族、跨规模、跨数据集均展示 hit-rate 提升；
• 健全性自检：negative 控制 + 双步自循环门等设计把"任意扰动也会逃离"这种朴素归因排除；
• 相位轨迹发现：用统计与几何双重手段（t-SNE 缎带 + 严格上双对角矩阵）揭示 $P_1\to P_5$ 吸收结构，给未来 RL 长度控制与 budget allocation 提供了先验知识。

8. 不足与局限

• 端到端评估未补齐：Checklist 第 1、4、7 项均隐含承认完整 steering / ablation / 显著性测试仍为 TBD，hit-rate 与最终答案正确率的关联缺少完整报告；
• 算力披露缺失：GPU 型号、训练 / 推理时长未给出（Checklist 第 8 项 "No"）；
• 代码与数据未公开：Checklist 第 5 项明确 "No"，复现门槛较高；
• 跨数据集 / 跨模型状态对齐不可行：Hungarian 对齐率 $<0.4$，每 (model, dataset) 都要重训簇与向量库，迁移代价被限；
• 某些簇被排除：引言-tag 簇在多数数据集被过滤，Gemma-4-E2B/AQuA 另有簇因空池被剔出，hit-rate 网格不齐；
• 失败案例存在：极少数簇 negative steering 同样提升了 hit-rate，提示少数簇属于"不稳定均衡"，框架对其未做解释；
• $\alpha$ 仍为手工调参：$\alpha =0.05$ / $0.025$ 按模型选择，未给出自动选择策略；
• 应用范围受限：方法假设模型 decoder 残差可被干预、需要双模型同架构共享层映射，部署到 API-only 模型时不可行；
• 超出自循环的干预未经实证：摘要宣称"向量对不同状态对具泛化性"，但正文主要表格只展示 self-loop 修正，任意 $c\to c^{\prime }$ 对的迁移未见充分实验；
• 回答向量方向极端化风险：残差流偏移虽小，但集群级别效应明显，需

8. 不足与局限（续）

• 回答向量方向极端化风险：残差流偏移虽小，但集群级别效应明显，需谨慎选取 α；过大会退化为 token 重复循环（即"偏移已作用于残差流的健全性信号"反噬），过小则 hit-rate 提升不显著；
• 嵌入模型耦合：嵌入模型 $M_{\text{emb}}$ 与目标模型同架构但不同实例（Qwen3-4B-Base vs Qwen3-4B-Thinking-2507），隐式假设两者隐空间语义对齐；当目标模型为 API-only 黑盒或架构差异巨大时不可用；
• K=5 为手工设定：聚类数固定为 5，缺乏对 K 选择的消融（如 AIC/BIC 或 silhouette 自动选取）；
• 句首语篇标记依赖：步骤切分完全依赖英文 discourse marker 词典，对中文、代码、形式化推理等步骤切换不明显的场景迁移性未知。

9. 可能的改进方向

1. 端到端闭环评估：把 hit-rate 与最终答案正确率、token 节省率绑定报告，给出帕累托前沿（accuracy vs token cost）；

2. α 自适应化：以最近步骤的"距离吸收态"或"剩余 token 预算"动态调节 α，或与 RL 的 length penalty 联合优化；

3. 超越自循环的任意状态对迁移：建立完整 $c\to c^{\prime }$ 转向库，处理"从验证态直接跳到终态"等更复杂的失败模式；

4. 跨数据集/跨模型共享嵌入：尝试固定一套 $M_{\text{emb}}$ 与预聚类标签，把跨模型迁移代价从"重训向量库"降到"线性映射对齐"；

5. 更强控制器架构：用 RNN/Transformer 拟合 $\kappa$ 替代简单 if-then 门控，学习何时干预、干预哪个 transition type；

6. 与早期退出 / 投机解码结合：自循环检测可作为 speculative decoding 的触发信号，让小模型在确信时替大模型提前 stop；

7. 开源代码与完整日志：补齐 ablation、置信区间、算力披露三项 Checklist 缺口。

10. 总体评价

SOPHIA 把"打断自循环"这一长期被忽视但高频出现的 LRM 失效模式，从直觉描述升级为可形式化、可定位、可干预的工程对象。其核心贡献在于：

• 诊断层面：用 phase-portrait 分析揭示了 Qwen/Gemma 类思考型 LLM 在四个推理数据集上普遍存在的"$P_1\to P_5$ 严格前向 + $P_5$ 吸收"结构，为"过度思考等于失败"这一经验观察提供了机制级解释；
• 干预层面：以 Fisher 判别方向为代理、借助残差流单位范数补丁与两步自循环门，给出训练自由的细粒度转向机制，相对 RL 重训与 prompt engineering 具备显著部署优势；
• 方法论层面：把 steering vector 从单一全局方向扩展到状态对索引库，并提供 Lemma 1 + Proposition 1 的数学解释，搭起了"经验式 activation patching"与"理论式干预"之间的桥梁。

当前版本的不足集中在 end-to-end 报告未补齐、算力与代码未公开、α 与 K 仍需手工设定三处，限制了结论的工程可复现性。但其核心机制证据充分、跨模型迁移有效、方向性消融健全，已具备进入 NeurIPS 主会论述的成熟度。后续工作若能把局部 hit-rate 与全局 accuracy/efficiency 闭环、并将状态对库扩展至完整转移矩阵，将有望成为 LRM 推理时控制的一类标准组件。

（完）