Eval | | arXiv:2607.22392

The Prompt Is Not the Query: How Request State Evolves Across Multi-Turn AI Conversations

提示并非查询:多轮AI对话中请求状态的演变

🧭 对话状态演变 · 会话级评估

Aiso

Benjamin Tannenbaum

多轮对话的最终提示仅含少部分词汇与状态维度,历史信息常丢失,必须采用会话级评估

📌 工作参考价值

  • 搭建对话式推荐/搜索助手时,应设计会话状态追踪器,累积用户约束、偏好、假设等维度,而不是仅依赖最后一轮输入。
  • 评估指标须从单轮转向会话级,可借鉴本文的请求状态维度检测规则,衡量系统是否利用了完整历史。
  • 多轮数据中词汇覆盖率低是常见现象(主要由轮次长度差异引起),训练模型时应采用会话级特征而非孤立的最后一次提示。
  • 注意最终轮可能引入全新维度(视为状态更新),系统需实时检测并处理意图的动态变化,避免仅做最后轮次的简单生成或检索。

动机:AI搜索评价通常把单轮提示视为稳定查询,但多轮对话中用户每轮可能添加约束、修正假设、要求证据,导致最后一次提示远不能代表完整请求历史。为此,用可观测的“对话条件请求状态”替代隐式意图,量化信息在多轮中的分布。

方法关键点:复用先前研究的冻结规则和受控群组,分析670个英文商业对话和7,463个PRISM公开对话。定义两类指标:(1) 词汇覆盖率——最终提示中出现的唯一词汇占整个会话用户侧词汇的比例;(2) 维度检测——基于透明规则判断请求状态维度(如约束、偏好、证据要求等)是否仅存于历史轮次或仅在最终轮出现。同时构造长度匹配的零分布以排除轮次长度影响。

关键结果:商业语料中,最终提示仅覆盖中位数35.6%的词汇,68.4%的对话覆盖≤50%;PRISM语料中位数为36.4%,74.3%的对话覆盖≤50%。更关键的,50.3%的商业对话和44.8%的PRISM对话中,历史存在至少一个请求状态维度但未出现在最终提示;而在含维度的对话中,最终提示完整复现全部维度的比例仅为26.1%和26.2%。同时,17.9%和19.3%的对话里最终提示引入了全新维度,说明最后轮是状态更新而非摘要。长度匹配分析表明低词汇覆盖主要由轮次长度引起,应解释为信息可用性问题而非语义漂移。结论强力支持会话级测量而非单轮评估。