PhysElite: How Far Are LLMs from Solving Olympiad-Level Physics Problems?
PhysElite:LLM 距解决奥赛物理题有多远
🧭 多模态 LLM 物理推理基准与过程评估
Xi'an Jiaotong-Liverpool University
构建大规模双语多模态物理奥赛基准 PhysElite,含 11586 题;最强多模态模型答案准确率仅 33.7%,并提供步骤级过程评估。
📌 工作参考价值(4 点)
- 步骤级过程评估可迁移到电商推荐 Agent 的诊断:在 query 改写→召回→排序→解释等多步推理链中,对中间步骤单独打分,定位失败子环节,而不是只看最终推荐命中率。
- 构建垂类专家级评测集的思路可借鉴:覆盖知识点、视觉形式和解题过程,用于电商商品知识问答、促销规则计算等多模态场景,衡量 LLM 的业务推理能力。
- 复杂物理题中 MLLM 准确率仅 33.7%,提示业务中的数值计算、多步推理不能完全依赖 LLM,应结合计算器、规则引擎等外部工具,如价格、库存、优惠叠加逻辑。
- 双语对齐和分步解答标注可用于微调生成式推荐理由、购物决策解释,让模型输出可核验的推理过程。