路由任意:通用AI系统模型与策略路由研究
🧭 模型路由 · 多模态质量成本权衡
National University of Singapore, HPC-AI Lab · InfRec, Cardinal AI Lab · University of California, Berkeley · Hong Kong University of Science and Technology
构建覆盖25个基准374k轨迹的omni-modal路由框架,证明学习路由器超最佳固定候选并提升效率8.82倍
📌 工作参考价值(4 点)
- 在推荐/搜索系统中维护多个候选模型(如轻量双塔、深度交叉、LLM排序器),训练一个轻量路由器(小型MLP或XGBoost)基于用户/物品特征、上下文及模型置信度动态选择,论文证明输入信息充分时学习路由器接近oracle上限,同时平均效率提升8.82倍。
- 搭建离线路由评估流程:对历史流量样本离线运行全部候选模型,记录质量分与延迟/成本,形成trajectory matrix,再训练路由器,可安全评估新模型加入后的整体收益,避免直接全量替换风险。
- 将路由用于Agent工具/策略选择:在电商对话助手中,根据用户query意图、语义和上下文路由到不同工具链或生成策略,降低昂贵LLM调用次数同时保持质量。
- 关注路由器输入特征设计:理论表明路由器可获得的信息决定可达性能,实用中可加入模型预测分布熵、历史表现等信号,而不只是原始输入特征。
M³Prune:面向多模态多智能体 RAG 的分层通信剪枝
🧭 多智能体协作效率优化 ★ 深度解读
Hefei University of Technology · East China Normal University · China University of Petroleum · Guangdong University of Finance and Economics · Alibaba Group
通过分层学习稀疏通信拓扑剪枝多智能体冗余交互,在提升多模态 RAG 准确率的同时大幅降低 token 开销
📌 工作参考价值(4 点)
- 在多智能体推荐或对话系统中,可直接引入可学习的软邻接矩阵(Gumbel-Softmax)对 Agent 间的通信权重建模,用策略梯度在训练时自动发现关键通信链路,替代固定拓扑。
- 分层剪枝策略(先剪模态内冗余,再剪模态间冗余)可迁移至多源信息(如商品图文、评论)的智能体协作,减少跨模态噪声,提升决策效率。
- 渐进式剪枝中的退化剪枝率 \(p^{(t)} = p^{(t-1)} \cdot \exp(-t/T)\) 和核范数正则项可作为通信成本控制模板,直接用于生产级多 Agent 系统的持续优化,避免一次性剪枝带来的不稳定。
- 模态对齐损失 \(L_{align}\) 可借鉴于推荐中多模态特征融合的对齐训练,显式保持图文 Agent 间语义一致性,防止因剪枝导致的协同失效。
面向冷启动推荐的隐式反馈去噪方法 DIF
🧭 去噪隐式反馈 · 冷启动推荐 · 伪标签生成 ★ 深度解读
Kuaishou Technology · Hong Kong Baptist University · Peking University · Nanjing University · Chinese Academy of Sciences
利用内容相似暖物品为冷物品生成置信度加权的伪标签,并通过不确定性估计自适应修正标签噪声
📌 工作参考价值(4 点)
- 冷启动物品的伪标签生成套路:利用已经训练充分的暖物品协同表示和用户塔输出,通过内容相似度检索top-k暖物品,用内积生成伪标签。电商冷启动物品(新品、新店铺)可复用这一思路,用图像/文本多模态相似度找到同类历史商品,借用其学习好的交互信号。
- 置信度加权聚合:对top-k伪标签按内容相似度做softmax加权,提升伪标签精度,避免简单平均带来的噪声。温度系数τ可调节相似度区分度,实践中相似度通常很高(>0.9),需要τ来拉开差异。
- 样本级不确定性自适应修正:结合相对熵(模型预测与标签的差异)和物品冷启动状态(曝光次数指数衰减)估计标签噪声,再按该不确定性对原始标签与伪标签做 convex 组合。这一机制可灵活插入任何双塔或CTR模型训练,且对暖物品影响极小。
- 工业在线部署架构:详细给出了内容相似暖物品实时检索与表示更新的pipeline设计——多模态推理服务→消息队列→item-to-item ANN服务→协同表示 Embedding 服务,完全适配流式训练场景,可供搭建推荐系统实时特征工程的团队直接参考。