一次性字幕，按需取帧：预算感知的智能体长视频理解视觉需求路由
🧭 预算感知的长视频理解 Agent 路由
Queen Mary University of London · Independent Researcher · Durham University · Imperial College London · Huawei
提出边云协同的 CFD 框架，用双轨叙事索引和视觉需求路由器按需取帧，显著降低长视频在线视觉处理成本
📌 工作参考价值（4 点）
- 借鉴双轨索引思想：在电商直播/商品视频理解中，离线生成事件级叙事骨架 + 片段级细节日志，将长视频转化为可复用索引，后续 query 只查索引不重跑 captioning，降低线上 token 与耗时。
- 将 Visual-Need Router 改造成多模态 RAG/Agent 中的“证据门槛”：根据 query 是否涉及外观、OCR、属性判别，决定是否检索原图/帧；时序、流程类问题直接走文本 memory，从而控制每 query 的多模态检索成本。
- 边云预算分离：让边缘端承担一次性离线 captioning 与索引缓存，云端按 query 拉取有界关键帧，适合直播回放、素材审核、商品视频 QA 等预算敏感场景，避免逐 query 全量视频重灌模型。
- “按 query 封顶视觉证据数，与内容长度无关”可以迁移到搜索推荐 Agent 的工具调用：为商品主图、评论、卖点等证据源设置 budget，只有 router 认为必要时才触发额外检索，防止长文档/长视频 query 的成本爆炸。
用循环流思考
🧭 循环神经网络与概率流推理
EPFL · KAIST · University of Amsterdam · Carnegie Mellon University · TU Wien
提出循环流模型，用局部去噪目标训练循环网络，推理时积分概率流实现计算扩展，在ARC-AGI等基准上超越先前的循环模型
📌 工作参考价值（4 点）
- 循环生成模型训练中，若梯度只截断少数步（如在线生成式推荐的多步解码），可借鉴局部去噪目标：每一步只做当前噪声水平的去噪，不要求整个循环链端到端可微，缓解早期步骤无法支持后续步骤的问题。
- 推理时通过更细的时间网格积分概率流，用更多计算换取更好预测，适合对延迟敏感的业务按负载动态调整解码步数，实现在线算力弹性伸缩。
- 从不同初始噪声采样可获得多个有效预测，可用于生成式推荐中产出多样化候选 item，后续用排序模型筛选或做多样性打散，兼顾覆盖与准确。
- 循环状态与流状态解耦（先运行去噪器更新循环状态，再执行 ODE/SDE 步），工程上易于模块化，可分别优化状态传递逻辑和数值积分器。
用于低开销语言模型量化的结构化变换
🧭 LLM 权重后训练量化 · Kashin 分解
Institute of Numerical Mathematics · Steklov Mathematical Institute
用符号随机 DCT 替代 Kashin 量化中的稠密正交矩阵，O(N log N) 实现稳定 4-bit LLM 压缩
📌 工作参考价值（4 点）
- 部署 LLM Agent / 生成式推荐时，可尝试用 Kashin-DCT 4-bit PTQ 替代或补充 GPTQ/AWQ；在长尾或压力输入下 QuIP 类可能发散到高 PPL 或 NaN，该方法数值稳定，适合对稳定性要求高的线上 serving。
- 若推理硬件支持原生 2-bit，该分解将每个权重存为两个 2-bit factor code，避免 3/4-bit 非原生格式的额外开销，降低内存带宽占用；可评估在广告/电商 LLM 服务中的收益。
- 将稠密随机正交变换换成 sign-randomized DCT，复杂度从 O(N^2) 降到 O(N log N)，且 2-bit 聚类中心采用闭式初始化，省去 multi-restart k-means；这种结构化变换 + 确定性初始化的思路可迁移到其他 VQ/低秩压缩流程。
- 该方法与 OPTQ 顺序误差补偿、QuIP 非相干预处理组合有效，说明可以作为插件接入现有 GPTQ/QuIP 量化管线，不必重做端到端 pipeline。
在LLM强化学习中通过永不放弃采样解决难题
🧭 RL for LLMs 动态采样训练优化 ★ 深度解读
Mila, Université de Montréal · Allen Institute for AI · University of Washington · Trillium Labs
揭示RL训练LLM的“马太效应”，提出NGU动态采样将计算从易题重分配到难题，显著提升困难任务pass@1
📌 工作参考价值（4 点）
- 在 RLHF/GRPO 训练推荐、对话或 Agent 策略时，若 prompt/任务难度差异大，可借鉴 NGU：用异步 RL 对简单 prompt 快速过滤，对困难 prompt 持续采样直到出现正样本；但需设置继续采样概率 p 并限制历史 completion 的 age，避免 off-policy 噪声。
- 对于需要同时满足多个约束的电商导购 Agent 或广告文案生成，标准 per-aspect reward 会导致模型只优化容易满足的约束。可先按模型初期 pass rate 重分难度，再对难样本动态加采样，提升所有约束全部通过率。
- 工程上，NGU 的 anchor positives 比直接 downsampling 稳定：保留所有正样本，对负样本按比例 rescale advantage 保持组内优势之和为零；推荐优先使用。
- 离线评估要按难度分桶（如按用户分群、query 难度）分别报告提升，避免整体指标掩盖马太效应；同样适用于推荐系统的长尾 item/query 优化。
ZGCM-1：面向数学与智能体搜索的全开源高效基础模型
🧭 高效训练 · Agentic Search ★ 深度解读
Zhongguancun Academy · Zhongguancun Institute of Artificial Intelligence
全开源 7B 模型，靠混合注意力、FP8/Muon 与 MDP 中训，在数学和 Agentic Search 上逼近大模型
📌 工作参考价值（5 点）
- 混合注意力 5:1 SWA/global 可在 256K 上下文将 KV cache 降 6.4x、吞吐提升 3.94x：适合电商多轮对话、长用户行为序列或长文档检索场景，用 7B 级模型支撑长上下文 Agent 而不过度消耗显存。
- 把交互轨迹改写为 MDP 状态-动作对做稠密监督，比整段模仿学习更利于训练 Agent 在搜索/推荐中做局部决策（如何时调用搜索、扩展 query、停止迭代）；可直接复用到电商导购 Agent 的工具调用数据构造。
- FP8+Muon+TWEO 组合实现约 4.2x pre-training time-to-loss，内部迭代模型可行；尤其 TWEO 抑制激活 outlier 是 FP8 稳定的关键，可在训练栈中尝试。
- SFT 数据质量裁剪：约剪掉一半候选，六基准均值 67.78→68.83，证明高质量数据胜于堆量；对电商话术/导购数据可借鉴严格去污和分层过滤。
- Agent 数据与 general 数据联合训练优于先 general 后 agentic 或只 agentic：对话式购物助手不应只用领域轨迹，需保留通用指令遵循能力。
超越求解器裁决：用于自动形式化的生成式奖励模型
🧭 Autoformalization · 生成式验证
Case Western Reserve University · Amazon Web Services
将离线 Z3 等价 oracle 蒸馏为生成式连续等价评分，检测 VPU，AUROC 0.961，并带来 11.3 点下游提升
📌 工作参考价值（4 点）
- 把验证器从结构化硬判定升级为连续、参考无关的 reward model：在 query 改写、商品属性约束生成、Agent 工具调用结果校验等场景，训练一个生成式等价性打分器，能捕捉“执行成功但语义偏移”的失败样本，弥补规则/校验器只查语法和返回码的盲区。
- 用离线 oracle 蒸馏低成本验证器：电商/推荐里可用大模型、人工标注或仿真环境构造等价/非等价对，蒸馏到轻量 LM 作为 reward model，再用于线上样本过滤、beam search 重排或 RLHF-style 优化。
- 将连续验证分数用于 agentic test-time compute allocation：对候选生成结果按参考等价性评分动态分配采样/回溯预算，比固定采样或仅按 solver 成功分配更稳；可直接借鉴到多步商品推荐解释、购物 Agent 路径选择。
- 机制分析 trick：通过 decision-projected logit lens / sparse autoencoders 定位 LM 生成中的错误坐标，可用于诊断商品属性约束生成中“哪个 token 维度导致不可满足或不一致”，帮助后续提示或微调。
ConvMem：面向长上下文推理的卷积记忆框架
🧭 长上下文推理 · 卷积记忆
Institute of Automation, Chinese Academy of Sciences
将长上下文推理重构为分层卷积，训练免费、高度并行，缩短推理链为对数树
📌 工作参考价值（4 点）
- 超长用户行为序列建模：可借鉴其分层卷积思路，将用户长期行为、浏览/点击序列分段，用 LLM 以当前 query 为卷积核做树状摘要，降低顺序读取延迟。
- 多意图查询分解：Multi-Kernel Convolution 把复杂 query 拆成多个语义通道并行处理，适合电商搜索中多意图识别与召回融合。
- 训练免费外挂记忆：无需强化学习微调，可作为独立 memory 组件接入现有 LLM API，避免在特定数据集上过拟合，利于快速落地。
- 工程并行优化：Configurable Strides 和 Skip Connections 支持对多个文本段批量 summary，适合长文档 RAG、商品详情/评论聚合等场景的 GPU 并行加速。
大语言模型的信息几何是共享、可学习且可控的
🧭 LLM 信息几何与控制
Department of Physics and Astronomy, University College London (UCL) · London Centre for Nanotechnology
用 Fisher-Rao 输出几何揭示 LLM 共享结构并给出最小扰动局部控制方法
📌 工作参考价值（4 点）
- 做 LLM 推荐/搜索时，若要对模型进行编辑/steering/微调，用输出概率的 Fisher-Rao 几何做正则或自然梯度，能比 Euclidean 激活距离更少扰动无关行为，适合在多任务推荐/广告文案模型中做局部行为调整。
- 该几何下学到的控制更新可在 donor prompt 上学、迁移到 unseen prompts，类似可复用 prompt steering；可用于电商 query 改写、营销文案风格控制，同时保持参考 prompt 行为稳定。
- 共享的输出几何支持语义类别迁移，跨 Transformer/SSM/RNN 架构一致，说明可以基于输出分布对齐做跨模型蒸馏或跨域迁移，而不是强求激活空间对齐。
- 预训练语料统计可预测 held-out fact acquisition，提示在训练推荐/广告大模型时，可监控语料侧统计指标提前判断知识/事实掌握，减少昂贵评估。
低比特量化何时能保持向量搜索的决策？
🧭 向量检索 · 量化决策保真
Astrmira Tech.
提出基于比较翻转的量化向量搜索分析框架，精确边际预测翻转率显著优于全局秩相关。
📌 工作参考价值（4 点）
- 评估量化方案别再看平均失真或全局秩相关，直接监控 exact margin 分布和比较翻转率，特别是在大规模 ANN 召回中，这更能预测线上相关性丢失。
- 上线低比特索引前，用 held-out block certificate 对冻结量化规则进行选择性失败风险评估，避免特定 query 或 segment 上召回崩塌。
- 对 Vamana / HNSW 等图索引，用耦合定理诊断量化引入的边分叉，定位对量化敏感的具体剪枝步骤，针对性加保护或回退高精度。
- 如果嵌入具有对齐双线性结构，可考虑确定性幅度位等几何设计，在相同码率下提升比较保真；注意残差间共享 query 导致的强相关，评估时采用协方差感知指标而非独立假设。
对 LLM 相关性法官礼貌有用吗？语气作为严重度操作点偏移
🧭 LLM-as-judge 语气鲁棒性
Independent Researcher
在 TREC DL19/DL20 上发现 prompt 语气主要改变 LLM 相关性法官的严重度操作点而非判断质量，影响校准类一致率大于排序
📌 工作参考价值（4 点）
- 若用 LLM 作为离线相关性/质量 judge，不要把礼貌等级当可调超参；固定 prompt tone 和模板（含 paraphrase）以降低 severity shift，上线前做 prompt 变体稳健性测试。
- 更应校准 LLM judge 的宽严程度，而不是追求更高 agreement：对绝对 graded label，用 human 标注数据估计 severity 偏移并做阈值/概率校准，或对 prompt 做温度与 threshold 适配。
- 排序指标（NDCG@10）对 tone 不敏感（最大平均变化 0.011），若只用于召回/粗排排序对比，风险较低；但需要关注 Kendall τ 下降导致的精排重排。
- Query-disjoint 验证法值得借鉴：把 query 切分，用未参与 prompt 选择的 queries 评估 prompt 变化，避免过拟合 prompt 到特定 query 集合。
GANDR：面向可验证法律答案生成的逐条声明审计
🧭 多智能体逐条声明审计与引用验证
William & Mary · Anytime AI
用 Drafter-Critic 双智能体逐条审计引用与声明，严格引用准确率 70.8%，领先最强基线 11.3 点
📌 工作参考价值（4 点）
- 在 RAG 生成文案、推荐理由、广告文案等场景，增加独立 Critic agent 逐条核对事实与引用源，避免整体得分掩盖局部幻觉。
- 引入 protocol-anchored commit：只有 Critic 审计通过才提交答案，否则触发修改；消融显示去掉该规则严格准确率下降 22.7 点，是低成本高收益的工程控制。
- 将引用验证从整体打分改为逐 claim 的 audit trace，便于线上监控、人工复核和 badcase 定位；对生成式推荐解释或选品理由尤其适用。
- 在低风险业务中，可只用审计模型的二分类检测器（支持不足 vs 支持充足）过滤高风险内容，而非依赖四分类标签，实验 F1 可达 0.84。
跟随偏好却错失最优：AI住房推荐的合规无优化审计
🧭 LLM推荐系统审计与优化缺陷诊断
Harvard University · Independent Researcher
大规模审计发现LLM在住房推荐中几乎完美遵守硬约束，但39%的推荐被同池中更优选项严格支配
📌 工作参考价值（4 点）
- 在电商/推荐场景中，对LLM推荐不要只检查约束合规，应引入支配性检测：从候选池中计算被严格支配的比例，作为线上部署前的诊断指标，可提前暴露“只满足条件但非最优”的问题。
- 将LLM作为推荐器时，需要显式的优化目标或后处理层：论文显示仅靠自然语言指令无法让模型自动寻找更便宜/更快的选项，可在LLM输出后用规则或排序模型在满足约束的候选中选择Pareto最优项。
- 大规模候选集会放大优化差距（候选集越大，LLM推荐与最优的租金差距越大），因此在大规模召回的电商/广告场景中，应先用检索或粗排缩小候选集，再让LLM做精细推荐，避免直接让LLM面对海量候选。
- 该审计成本极低（约57美元完成近万次调用），可在业务中构建自动化评估管道，用真实商品/广告库存定期审计LLM推荐质量，监测是否出现“合规但不优化”的漂移。
Glyph：企业数据目录列描述与敏感本体标注的多策略智能体系统
🧭 多智能体数据目录标注与敏感分类
Apple
用协作式 LLM Agent 将列描述生成与 275 类敏感标签分类落地为可审计的生产系统
📌 工作参考价值（4 点）
- 代码而非数据值作为生成依据：Descriptor 通过 active RAG 从 GitHub 检索产生列的上游 pipeline 源码，再生成描述。做电商/推荐特征库、指标口径或广告字段文档时，可以让 Agent 以业务代码/ETL 逻辑为 grounding，避免只看数据值产生幻觉。
- 多策略并行 + RRF 融合：Tagger 同时跑描述打标、业务正则、基于向量库的 metadata tagger，再用 Reciprocal Rank Fusion 合并排序。对大 taxonomy（如 275 类）的商品/内容/广告分类或多标签治理，可复用「语义、规则、精确元数据三路并行 + RRF」的架构，稳定且可解释。
- 小模型对比微调收益显著：用 in-batch contrastive objective 微调 6 层 MiniLM，NDCG@10 从 0.55 提升到 0.92。在标签体系较大、域内文本较短的特征/类目标注任务中，轻量 encoder 微调 + 向量检索是低成本高回报方案。
- 每个标签保留 provenance 与降级路径：系统记录每个 tag 来自哪条策略，并在代码不可取、服务失败时优雅降级。生产 Agent/LLM 系统做治理或推荐元数据标注时，应设计来源审计和 fallback，满足合规与可运维要求。
构建多语言桥梁：数据混合作为语言内推理泛化的支柱
🧭 多语种语言内推理 · 数据混合训练
Cohere Labs · Cohere
通过数据混合与调度优化，3.35B模型在60种语言上实现93%以上语言内推理率，证明推理行为可跨语言迁移。
📌 工作参考价值（4 点）
- 数据混合降本：跨境业务的多语言场景下，只需英文推理标注数据 + 目标语言的通用语料，即可让小模型获得目标语言上的推理能力，避免为每种语言单独标注推理数据。可用于多语言商品推荐解释、售后问答等。
- 推理语言一致性：将“语言内推理率”作为核心评估指标，监控模型在用户使用语言上的推理占比，避免模型在非英语语言下切换回英文，提升本地化体验和用户信任。
- 小模型可行性：3.35B参数即可达到高语言内推理率，说明中小规模模型结合高质量数据混合策略可以在有限算力下覆盖多语言推理场景，适合需要低延迟、低成本的多语言搜索/推荐助手。
- 调度策略借鉴：SFT中数据调度对推理泛化有重要影响，可尝试“先英文推理数据建立骨干，再混合多语言非推理数据”的课程式训练，在训练过程中动态调整语言配比以稳定能力迁移。
合成数据何时有害：LLM Agent技能检索中的灾难性遗忘
🧭 LLM Agent 技能检索 · LoRA 遗忘缓解 ★ 深度解读
Manulife
在34,396技能规模上，朴素LoRA合成数据微调会遗忘真实/OOD任务；保守正则可保持OOD并提升分布内召回13.98%。
📌 工作参考价值（4 点）
- 在电商/广告召回或相关性模型微调中，真实点击/转化标注通常远少于曝光；若用LLM合成训练样本，优先选择低秩保守LoRA（如r=8、attn-only、lr=5e-6）并加LwF/EWC/anchor/L2-init正则，可降低真实流量OOD掉点风险。
- 上线评估必须拆OOD真实query：不能只看合成集指标。论文中激进LoRA在合成Ring提升，但真实Ring 3 Recall@10从0.850跌至0.650；因此要单独监控自然流量、长尾类目、未参与训练的场景。
- 轻量0.6B bi-encoder在技能检索上可匹配4B+BM25 hybrid（HIT@10=0.907），搜索/推荐召回侧可用小模型+FAISS降低成本；微调稳定性主要由LoRA rank控制，anchor weight影响较小，优先调rank。
- retriever与reranker分数融合可采用per-query min-max归一化后线性加权α；BM25等稀疏召回用RRF融合，避免不同分数尺度校准问题。