LERA: LLM-Enhanced RAG for Ad Auction in Generative Chatbots
LERA：面向生成式聊天的两阶段LLM增强RAG广告拍卖
🧭 生成式推荐 · 广告拍卖机制设计 ★ 深度解读
Peking University · Alibaba Group · Shandong University
先由关键词嵌入粗筛，再用LLM logits精排，并以临界值支付保证激励相容，实现高效精准的聊天广告插入。
📌 工作参考价值（4 点）
- 两阶段LLM排序可用于电商推荐/广告：先用轻量检索（如关键词嵌入）粗筛Top-K，再调用LLM logits精排。既保持效率，又能捕获复杂意图，尤其适合高并发在线服务。
- 用logits而非文本输出做排序：在SGLang等推理引擎中，可通过并行pre-filling提取候选标签的log概率，比文本生成更稳定、可解耦，方便与出价等数值信号融合，适合实时竞价。
- 临界值支付规则适配多阶段筛选：胜出者支付两阶段门槛的最大值，可移植到带粗排-精排的推荐广告混排系统，保证广告主真实报价，降低经济设计风险。
- 多广告插入的段落化生成策略：在长回复或对话中分段重新拍卖，利用KV-cache重用控制延迟，可应用于多轮对话广告位、直播带货字幕广告等场景。