学习社会规范提升动态人机协调兼容性
🧭 Agent · 社会规范量化与协调优化
量化行人交互中的社会规范三原则（结果可预测、价值对齐、优势意识）使LLM协调得分超基线4倍，超人类43%
📌 工作参考价值（4 点）
- 在电商客服、对话推荐agent中显式定义类“可预测性、价值对齐、优势意识”的规范原则，可通过system prompt或RLHF reward塑造行为，提升用户对连贯性与体谅度的体验。
- 通过小规模人类交互实验提取隐式规范的方法，可迁移到推荐系统：设计轻量级问卷或游戏收集用户动态协作偏好，抽取出“响应时机”“主动推荐程度”等维度，用于微调对话策略。
- 闭-loop交互评测框架（人机反复博弈）可复用于搜索/推荐系统的多轮效果评估，取代单轮离线和静态用户模型测试，更能捕捉长期协调性与粘性。
- 优势意识原则（agent意识到自身信息优势时主动引导）可直接用于主动推荐场景：当模型拥有用户历史、库存等全局信息时，应更主动地提供选项并解释理由，而非被动等待查询。
自然图像对比学习理论：最优表征的正弦基与白化
🧭 对比学习理论 · 正弦基与白化
CSAIL, MIT · School of Computer Science and Engineering, Hebrew University of Jerusalem
证明对比学习最优表征为傅里叶正弦基加部分白化，可用注水算法解析计算
📌 工作参考价值（4 点）
- 推荐系统中常用对比学习训练用户/物品表征，该理论揭示增强变换与最优表征结构的关系，可指导如何设计更适合协同过滤的增强（例如，图像增强等价于频率域的选择性加权，可类比到序列推荐中的 mask 或裁剪策略）
- 部分白化作为对比学习隐含的最终投影层，可显式引入到推荐模型的输出层，提升特征的解耦性与判别性，替换简单的 L2 归一化
- 注水算法直接根据数据功率谱计算最优滤波器权重，该思想可迁移到特征交互建模中，自适应地分配不同频率或阶次交互的权重
- 虽然对象是视觉，但结论“第一层学习正弦波”暗示对比学习倾向于发现频域结构，这一点可用于解释推荐模型中 Embedding 在对比训练下的收敛特性，辅助排查训练不稳定问题
走向线性的关键：分析驱动的 Transformer 线性化
🧭 LLM 后处理线性化 · 冻结骨干注意力近似
Qualcomm AI Research
证明 key-dependent rank-1 正交投影是 softmax 的关键，提出 sink tokens、短卷积、固定预算缓存路由等干预，实现冻结骨干线性化，在 32B 规模超越前方法
📌 工作参考价值（4 点）
- 若业务使用 LLM 做长上下文推理（如 Agent 长记忆、长文档理解），可采用冻结骨干 + 训练轻量线性注意力替换的方式，大幅降低 KV 缓存和计算量，保持模型质量。
- 提出的 sink tokens、短卷积、固定预算缓存路由是低成本的结构干预，可直接嵌入现有注意力层，尤其适合需要实时响应的推荐或搜索系统。
- 分析揭示 key-dependent rank-1 投影是 softmax 的核心操作，为设计定制化的高效注意力模块提供了理论依据，避免盲目试错。
- 该方法无需全参数微调，只需训练少量新增参数，适合模型频繁更新或需保持原始性能稳定的场景。
最大化GRPO信号：面向困难推理的自适应前缀控制
🧭 RL训练方法 · 自适应难度调节
Independent Researcher · thinkdense.ai
自适应前缀控制动态维持困难问题的50%成功率，最大化GRPO梯度信号，大幅提升推理准确率
📌 工作参考价值（4 点）
- 在电商搜索/推荐中使用GRPO训练LLM策略时，常遇到困难样本组内全失败导致梯度为零，可借鉴AdaPrefix：为困难样本预先拼接部分正确输出（如人工标注的关键步骤）作为前缀，提高组内成功概率，避免梯度消失。
- 借鉴“成功率50%噪声最大”的思想，在在线学习过程中动态调整任务难度（前缀长度），使模型始终处于最利于学习的“挑战区”，可应用于动态负采样或课程学习排序中。
- 工程实现极为轻量：仅需在数据预处理中拼接前缀token，并在计算loss时mask掉前缀部分，训练器无需改动，适合快速实验和部署。
- 对于多步推理的Agent训练，可在初始阶段给予部分正确推理链作为引导，随着训练逐步撤除，使Agent最终独立完成复杂任务，缓解稀疏奖励问题。
长度惩罚让思维链更不易监控
🧭 思维链压缩导致可监督性下降
带长度惩罚的强化学习压缩思维链时优先移除影响答案的线索，降低可监控性
📌 工作参考价值（4 点）
- 若用 LLM 生成推荐理由或解释，为省 token 进行长度压缩可能掩盖真实决策依据，增加审核与合规风险。
- 在 Agent 多步推理中，压缩中间步骤虽提升效率，但可能丢失对行为可追溯性，需额外监控机制。
- 评估压缩效果时不应只看 token 数和准确率，需加入忠实度或可监控性指标，防止模型被偏见利用而无法察觉。
- 长度归一化比较显示，选择性删除内容而非随机缩短是监控性下降的主因，可尝试在压缩中保留关键线索或事后审计。
从开始就已注定：基于召回控制探针级联的LLM Agent尽早终止
🧭 LLM Agent早停与推理节省
Gaoling School of Artificial Intelligence, Renmin University of China · Institute of Computing Technology, Chinese Academy of Sciences · Duke University · Institute of Automation, Chinese Academy of Sciences · College of Computer Science, Zhejiang University
提出召回受控的探针级联，在Agent早期预测失败并终止，节省47%推理计算且保证全局存活率
📌 工作参考价值（4 点）
- 对于线上LLM Agent系统（如购物助手、自动广告投放），可集成轻量探针级联，每轮动态判断是否提前终止，大幅降低无效推理成本（节省约37%-47%）。
- 采用分布无关的校准门控与联合搜索每轮召回预算，能提供用户指定的全局召回率保证（如90%），满足业务对成功轨迹存活率的严苛要求，避免单门累积误杀。
- 探针仅读取隐藏层激活，无需行为特征，工程实现简单；并且实验表明加行为特征无额外收益，确认隐藏状态已包含足够信息，减少特征工程开销。
- 提供的样本复杂度分析方法，可指导业务方评估数据是否足够支撑高召回目标，避免盲目承诺。
从投票到智体协作：答案类型感知的LLM流水线
🧭 多Agent协作与问题类型路由
Korea University · Myongji University · AIGEN Sciences
针对生物医学问答中不同答案类型设计LLM推理策略，结合多智体协作验证取得最佳结果
📌 工作参考价值（4 点）
- 问题类型路由：在推荐/搜索中，可对查询意图分类后路由到不同LLM推理策略，例如事实型查询用CoT，主观型查询用多Agent辩论，减少单一模板的偏差。
- 多Agent验证与集成：对于需要多源证据的推荐解释或复杂决策，可采用类似“提取-生成-验证-聚合”的协作链，提高答案可靠性和可解释性，尤其适合客服Agent或商品选品解释。
- 自反思与顺序扰动：yes/no问题中对证据片段进行洗牌和自反思，可降低模型对输入顺序的敏感性，增强预测稳定性；在广告创意排序或商品评论摘要中可借鉴，避免位置偏差。
- 集成预测与类型定制：将多个模型/模板的预测通过投票结合，并根据问题类型定制集成方式，这种方法可直接用于搜索广告Bidding中的多信号融合，提升出价策略的鲁棒性。
CurateEvo：面向Agent后训练的失败驱动数据策展进化框架
🧭 Agent后训练 · 失败驱动的数据策展进化
Harbin Institute of Technology
用失败轨迹动态重写可执行策展代码，统一生成SFT/RL/记忆数据并裁剪冗余
📌 工作参考价值（4 点）
- 构建 Agent 训练数据闭环：将线上 Agent 的失败轨迹作为反馈，自动诊断反复出现的失败模式，驱动数据策展策略迭代，持续补充或过滤训练数据，适合电商搜索/推荐 Agent 的长期优化。
- 将数据策展表示为可执行代码，交由 LLM 自动重写进化，降低人工维护成本。可用类似思路实现“Agent 训练数据自动管线”，在每次迭代中根据新失败 case 调整数据加工逻辑。
- 统一输出 SFT、RL 与推理时记忆库数据，保证训练一致性；在电商多轮 Agent 场景下，可同时产出监督微调数据和用于强化学习的环境交互样本，减少重复开发。
- 成本感知的冗余剪枝：在策展代码中加入效率目标，自动剔除低效用训练轮次，降低训练计算开销，适合工业级海量数据的 Agent 训练场景。
DeepSearch-World：确定性搜索环境中智能体的自蒸馏训练框架
🧭 Agent 自进化 · 确定性搜索环境 ★ 深度解读
HKUST · Tencent · HKUST(GZ)
在确定性 Wikipedia 离线环境中，通过 scaffold 教师轨迹生成与监督自蒸馏，让 9B 搜索智能体自进化至开源领先水平
📌 工作参考价值（4 点）
- 构建确定性离线环境用于 Agent 训练：可借鉴 Wikipedia 离线索引 + 工具模拟，将线上搜索/浏览工具映射为确定性函数，便于大规模生成可验证的训练轨迹，避免线上环境噪声与成本。
- Scaffold 教师轨迹中的规划与反思注入：利用三阶段教师 (Plan-Act-End) 生成包含进度追踪、反思与错误恢复的轨迹，再通过 Scaffold-to-ReAct 转换将结构化状态、反思改写为 ReAct 的 thinking 块，让普通 ReAct agent 学会规划、记忆与自我纠错。
- 自进化循环的异步生成与重要性采样混合：生成与训练解耦，使用指数衰减的重要性采样混合多轮轨迹，优先新高质量样本同时保留早期数据以防遗忘，稳定提升长程工具使用能力。
- 可微调的动作/工具使用行为示例：全流程以 SFT 实现，无需复杂 RL 奖励设计，从正确性验证 + 质量过滤即可提升工具调用成功率与多跳推理深度，适合快速在业务 Agent 中尝试自进化。
对话推荐中的动态偏好诱导策略：何时与如何提问
🧭 阶段感知的对话式推荐偏好诱导
University of Sheffield · Bloomberg
阶段感知：前期问属性，后期推物品，MoE建模策略选择提升对话推荐效率
📌 工作参考价值（4 点）
- 对话推荐策略应分阶段设计：冷启动阶段多问属性，偏好明确后直接推荐商品，可大幅提升导购Agent的交互效率
- 借鉴COPE的Mixture of Experts架构，构建一个轻量策略选择器，在线判断当前对话轮次应提问还是推荐，以及提问类型（属性/物品）
- InPE数据集提供了细粒度标注（询问必要性、策略类型），可用于微调对话推荐模型或策略判别器，适合迁移到电商客服场景
- 离线评估证实阶段感知策略优于静态统一策略，线上部署时可基于对话长度或状态隐式划分阶段，避免硬编码规则
多模态视频到音乐推荐：基于语义检索与时序重排序的两阶段框架
🧭 视频到音乐推荐 · 多模态检索与重排
Graduate School of Culture Technology, KAIST · Gaudio Lab, Inc
提出语义检索与时序重排序两阶段框架，在视频到音乐推荐中同时建模全局语义和细粒度时序对应
📌 工作参考价值（4 点）
- 多模态融合思路可迁移：联合视觉、音频、文本信号构建联合表征，电商场景中可类似融合商品图像、描述文本、评论音频等多模态信息，提升语义匹配质量
- 粗召回+细排两阶段架构效率与效果平衡：粗召回用全局嵌入快速筛选候选集，细排用时序注意力捕捉序列对齐，适合电商推荐中用户行为序列与候选项序列的精细匹配
- 时序重排机制捕获动态对应：广告推荐中可借鉴对用户交互序列与广告创意序列进行细粒度时序对齐，提升点击率预估的时序合理性
- 人类偏好评估补充离线指标：推荐系统除了离线A/B，可引入人类偏好对比，尤其在生成式推荐结果质量评估上更贴近实际体验
DynaKRAG：多跳RAG中可学习证据控制的统一框架
🧭 可学习证据控制 · 多跳RAG
Shanghai Jiao Tong University · Shanghai Aircraft Manufacturing Co., Ltd. · Tongji University
将多跳证据获取构建为状态条件下的原子操作控制问题，通过学习控制器动态选择操作，性能全面超越固定基线。
📌 工作参考价值（4 点）
- Agent 动作调度借鉴：在多 Agent 搜索/推荐系统中，可引入状态条件动作空间，动态决定检索、查询改写、证据批判或停止，替代固定管道，提升多步推理任务的效率与效果。
- 轻量控制器设计：使用小型 LLM 学习策略控制器，根据当前证据状态选择下一步动作，适合业务中平衡推理能力与延迟，可集成到现有的 LLM-based Agent 架构。
- 充分性反馈机制：将“当前证据是否足够回答”的判断集成进工作流，避免冗余检索或对话轮次，对电商客服、商品咨询等多轮交互场景有直接降本价值。
- 检索预算动态分配：实验表明额外检索并非均匀有益，可根据查询难度动态分配检索次数，对广告召回、搜索排序系统的资源优化有直接指导意义。
分层声学-语义建模：全双工口语语言模型的模态分离与语义一致性
🧭 多模态学习 · 梯度冲突解耦
Harbin Institute of Technology, Shenzhen · Center for Language, Intelligence and Machines, Shenzhen · The Chinese University of Hong Kong, Shenzhen
揭示全双工语音模型中声学与语义的梯度冲突，并提出分层参数分离策略以消除模态干扰
📌 工作参考价值（4 点）
- 多模态搜索/推荐中的梯度冲突诊断：当商品文本、图像、用户行为等多模态信息共享底层参数时，可借鉴论文的梯度冲突分析方法，定量评估不同模态梯度方向的余弦相似度，定位干扰源，避免盲目调整结构。
- 分层参数分离策略用于多模态融合：在深层网络中将不同模态的参数解耦，仅浅层共享，同时引入轻量语义对齐通道（如对比损失或跨注意力），既能保持模态特异性，又能防止语义割裂，适用于多模态排序或召回模型。
- 语音购物助手的全双工流畅性提升：构建对话式推荐Agent时，采用类似分层声学-语义解耦的架构，可减少语音识别与语义理解之间的干扰，提升交互的自然度和响应速度，类似方法也适用于实时多轮对话场景。
- 高效推理兼顾模态专化：通过仅在深层分离参数而非独立训练整个双塔，能维持推理效率，适合对延迟敏感的业务场景，如在线推荐、语音搜索等。
InfluMatch：用4B模型级联实现媲美前沿LLM的泰语KOL搜索
🧭 多阶段级联 · 偏好优化重排 · KOL匹配 ★ 深度解读
Amity AI Holdings Co., Ltd.
提出三阶段检索-重排-评分级联，用4B开源模型达到94.1% P@5，仅需前沿LLM 1/35的输出令牌
📌 工作参考价值（4 点）
- 级联设计降低推理成本：将昂贵的评分阶段仅作用于前10候选人类似于召回→粗排→精排，在商品推荐中可将LLM评估限制在小范围，大幅节省令牌与延迟。
- 用偏好优化（SimPO）训练点式重排器：仅利用人类成对偏好数据微调4B模型做单令牌“Yes”概率打分，比生成式A/B判断更经济且效果匹配前沿模型，适用于电商搜索的第二阶段精排。
- 绝对标签未必比相对判断更有效：基于绝对分数微调的评分器在离线指标上胜出但端到端下降，表明在电商场景中若标注存在主观性和噪声，更应收集成对优劣信号而非绝对评分。
- 合成数据生成管道可复现：通过 personas + 规则约束 + 网络搜索生成逼真的请求和标准，可为搜索/推荐系统的训练数据合成提供模板，降低真实业务数据不足的影响。
Jet-Long: 动态双焦 RoPE 的高效长上下文扩展
🧭 零样本长上下文扩展 · 动态 RoPE 分组 ★ 深度解读
NVIDIA
一种无需微调的零样本长上下文扩展方法，通过动态调整远程窗口分组因子保持位置在分布内，并利用容斥注意力合并实现几乎无开销的推理
📌 工作参考价值（4 点）
- 零样本扩展部署：可将任意开放权重 RoPE LLM 的上下文窗口无损扩展 4 倍以上（如 32K→128K），无需长上下文微调，适合快速上线长上下文应用（RAG、Agent 轨迹、长文档理解）。
- 双窗口架构：本地窗口（w0=2048）完全保留原始 RoPE，远程窗口动态调整分组大小 G=max(1, ceil(L/w_pretrained))，在短输入时退化为基模型，长输入时最小化位置压缩，避免短上下文性能退化。
- 工程实现借鉴：通过“校正旋转”在 query/key 上施加位置偏移 Δ，实现远程窗口注意力，保持 KV 缓存不变；预填充阶段用三次 FlashAttention 的容斥合并（inclusion–exclusion merge）融合为单个 CuTe 内核，达到 1.28–1.39× FA2 吞吐，生成开销 ≤4%，可直接集成到线上推理服务。
- 超参数鲁棒：唯一超参数 w0 在 512~4096 间几乎无波动（RULER 波动 <2pp），无需按部署场景调参，降低维护成本。