Repeated Queries Exhaust an LLM's Brand Recommendations but Not Its Sources
生成式搜索的采样完整性:重复查询下品牌与引用域累积
🧭 LLM品牌推荐的采样完整性评估
Estonian Entrepreneurship University of Applied Sciences (EUAS) · Rankfor.AI
通过稀疏化与Chao2评估,发现无检索LLM品牌推荐持续新增,检索收敛品牌但引用域名不饱和
📌 工作参考价值(4 点)
- 在电商品牌监控、竞品分析或LLM选品/品类拓展中,不要依赖单次或少量运行;应做多次采样(5-10次以上),用开放抽取而非固定候选表,否则会误判覆盖度并漏掉长尾品牌。
- 为LLM增加检索(RAG)可显著收敛品牌推荐列表,适合需要稳定主流品牌的场景(如搜索结果页优先展示、品牌白名单),但须知道引用来源/域名仍会持续增长,合规审查仍需多次采样。
- 跨引擎聚合很关键:中位每个query涌现38个组织,约15个仅出现在单一引擎;构建品牌库、竞品库或黑名单时应跨平台/跨模型收集,单引擎覆盖不足。
- 用稀疏化曲线(rarefaction)和Chao2估计器可以量化“还有多少未观测到”,可作为生成式推荐系统评估指标,监控输出多样性是否被吃干。