Beyond Correctness: Benchmarking and Aligning Response Behaviors in Hybrid-Thinking MLLMs
超越正确性：混合思考多模态大模型的响应行为基准与对齐
🧭 MLLM 响应行为对齐与 RL 训练
Institute of Automation, Chinese Academy of Sciences · Large Language Model Department, Tencent · University of Electronic Science and Technology of China · Hong Kong University of Science and Technology · Zhongguancun Academy
提出 PatternEval 诊断基准与 PatternRL 训练框架，缓解混合思考 MLLM 思考/非思考模式响应行为失配
📌 工作参考价值（3 点）
- 混合思考部署模式（如电商客服/推荐 Agent 中快速模式与深度推理模式并存）需监控响应行为一致性，尤其防止 CoT 泄漏暴露内部推理链（可能泄露用户特征或策略细节），论文的 PatternEval 四类失败可作为线上评测指标。
- RL 训练阶段引入 pattern-specific penalties（PatternRL）可在不显著影响任务准确率的前提下对齐非思考与思考模式，这种分模式惩罚思路可迁移到生成式推荐中，用于约束不同解码策略（如 greedy vs. beam）下输出风格一致。
- 构建评估集时主动注入已知失败模式（failure-enriched）比均匀采样更能暴露模式差异，可用于生成式推荐/Agent 的离线和回归测试，提前发现长尾行为问题。