BDH-CQ: In-Context Learning with Recurrent Latent Reasoning
BDH-CQ：基于循环潜在推理的上下文学习模型
🧭 潜在空间循环推理 · 低成本高效推理
Pathway · Bielik AI · New York University
BDH-CQ 以循环潜在推理避免逐 token 中间推理，150M 参数在 ARC-AGI-1 达 29.5% pass@2，成本 $0.0007/任务
📌 工作参考价值（3 点）
- 小型循环潜在推理模块可替代显式 CoT，用于商品属性抽取、query 意图分类等高频轻量任务，降低 tokens 费用与延迟，适合线上部署。
- 循环记忆持续更新机制可借鉴到实时用户行为序列建模，如点击流增量处理，避免每次重算完整序列，但需验证长程依赖捕捉能力。
- 评估模型时引入成本-精度帕累托分析，在 Agent 工作流中为简单任务配置低成本潜在推理模型，复杂决策再调用大模型，优化整体 ROI。