A Probe Direction Is a Property of Its Prompt
探测方向是其提示的属性
🧭 模型评估 · 线性探测可靠性
Devoteam
线性探测评估中“宣布评估”的提示措辞主导探测分数，单提示设计不可靠
📌 工作参考价值
- 业务中用 LLM 做评估（推荐理由生成、搜索结果排序、Agent 能力评测）时，别把某个“标准提示模板”当作唯一测量工具：提示措辞会直接改变评估结论甚至模型相对排名。应把提示视为随机因子，准备多个语义等价变体，报告跨提示方差。
- 模型选型或 A/B 测试之前，不要只增加评估样本数量来提升可靠性：样本增加无法修复由提示选择带来的系统偏差；优先增加提示多样性，并估算达到可接受信度所需的最少提示数。
- 警惕表面形式捷径：如果模型或裁判模型只依赖格式、关键词等表面特征就能通过评估，说明测量可能没有捕捉真实能力。在设计自动化评测时加入表面形式对照组，检查得分是否真的反映目标能力。
- 跨模型比较必须采用多提示设计：在电商搜索/推荐场景中，不能用一个提示下的准确率对比 LLM 选型或推荐文案生成质量；应根据论文给出的提示数量规划，避免单提示结论误导上线决策。
动机：模型若在测试时改变行为会破坏评估可信度，因此现有研究用线性探测器从激活中读取“是否感知被测试”。标准做法对比“宣布评估”与“普通部署”的提示，用分离分数跨模型比较并与规模相关。
方法关键点：该方法存在一个未披露的自由参数——评估提示的具体措辞。作者固定任务文本，只改变宣布评估的提示；将提示作为测量设计的一个维度而非实现细节，分析模型、提示及其交互的方差贡献；并检查该分数是否仅靠表面形式即可复现。
关键结果：报告的分数甚至随模型规模趋势的方向都随提示变化；两篇已发表研究关于趋势走向的矛盾结论可由同一设计仅通过选择不同提示复现。方差分解显示模型本身只解释小部分方差，大部分来自模型×提示交互。增加评估样本不能修复测量，变化提示可以；仅表面形式就能复现每个已发表分数的相当部分。单提示设计无法支持跨模型比较，文章给出可辩护比较所需提示数量。