Schema 锚定潜在推理用于知识库问答语义解析
🧭 LLM 潜在推理 · 知识库问答语义解析
Institute of Automation, Chinese Academy of Sciences · Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences
在 LLM 隐藏状态进行连续潜在思维,通过 schema codebook 对齐与反馈延迟离散决策,提升 KBQA 语义解析组合问题性能
📌 工作参考价值(3 点)
- 对于需要多步生成结构化输出的任务(如商品筛选、广告定向、query 改写),可以把连续潜在状态作为中间表示,避免在每个推理步过早离散选择类目/属性/Semantic ID,降低错误传播。可在 Transformer 中引入专门 reasoning steps,训练时对齐真实结构化标签。
- 从已有的 query-结构化目标成对数据(query-LF、query-商品条件)自动构造中间对齐信号,类似 schema traces,无需人工推理轨迹标注,用于训练 codebook 或离散 tokenizer,将连续表示映射到业务 schema(类目体系、属性值、行为事件)。
- 在 LLM Agent 多工具调用之间维护潜在状态,延迟提交工具参数,并用可学习 codebook 将潜在状态对齐到工具 schema 可提升复杂任务规划成功率。工程上可固定 LLM 主干,仅训练 codebook 和投影层,实现低成本落地。
SAGA:面向智能体 Text-to-SPARQL 的模式感知接地框架
🧭 Agent 交互式 SPARQL 生成 · 模式感知接地
The University of Tokyo · National Institute for Materials Science · RIKEN Center for Advanced Intelligence Project
提出 SAGA 训练无关框架,通过模式约束接地解决智能体 SPARQL 生成中的类型盲问题,显著提升 KBQA 性能并消除空查询。
📌 工作参考价值(4 点)
- 在电商搜推场景中,若利用 LLM Agent 与商品知识图谱交互生成推荐理由或查询,可引入类型约束(如商品类别、属性域/范围)过滤不可能的属性,避免返回空结果。
- 借鉴 SAGA 的双向类型状态(bidirectional type state)机制,在 agent 每一步推理后即时更新实体与属性的类型兼容性,缩小后续接地搜索空间。
- 以紧凑的模式注释格式(schema-annotated format)向 LLM 展示剩余合法属性,减少 token 开销并提升生成准确率。
- 对图谱中缺失的模式信息,可结合历史轨迹局部证据和经验统计宽容处理,适应真实业务图谱的不完整性。