Harness-Zero：通过 Agent-as-Harness 实现 Harness 蒸馏
🧭 LLM Agent 蒸馏与外部策略内化
Peking University · Google · The Hong Kong University of Science and Technology
用 agent-as-harness 把优化 harness 的引导转为目标动作空间修正示范并微调，移除专用 harness 后成功率 23.3%→44.3%
📌 工作参考价值（4 点）
- 业务中若存在按场景/人群/地区切换的规则引擎、多路召回/重排策略、风控或兜底 harness，可借鉴“专家 harness 引导 + 修正 agent 生成目标动作空间示范 + SFT”的流程，把外部策略内化到统一模型，降低线上策略路由与维护成本。
- 若优化 harness 与学生目标 harness 的动作空间或可用信息不一致，不要直接拿专家输出做监督；引入 bridging agent 在目标动作空间重写学生响应，是比 code-as-harness 更稳的蒸馏方式。
- 实验显示内化后移除专用 harness，模型成功率从 23.3% 升至 44.3%，超过保留原 harness 的 41.7%；可尝试用微调替代部分外部系统，减少推理延迟与策略冲突。
- 对推荐/搜索 Agent 场景，可将不同场景的 query 改写、选品或 push 选词策略作为 expert harness，蒸馏到一个 base model，支持多场景统一服务，尤其适用于对话式购物/搜索助手中的策略简化。
Jev-Mem：System-One 控制的 Agentic Memory 实现高效 AI Agent
🧭 Agent 记忆系统效率与效果优化 ★ 深度解读
Department of Computer Science, The University of Texas at Dallas
提出将高频记忆控制与生成式推理分离的 System-One/Two 记忆架构，在 LoCoMo 上以 6.6 倍构建提速和 36.7% 延迟下降取得最佳回答质量
📌 工作参考价值（4 点）
- 在电商/推荐 Agent 的用户记忆与客服长期记忆中，把“该不该存/归什么类/和哪条历史相关/该不该停”等高频小决策从 LLM 生成中拆出，换成轻量分类器、规则或小模型；LLM 只做最终答案/推荐理由合成，可大幅降低 Token 成本与延迟。
- 多关系图 memory（semantic/temporal/causal/entity）对用户行为、商品浏览、事件关系有直接迁移价值：保留原始行为不做过早过滤，用确定性索引先召回候选再让轻量模型判断关系，工程上可避免长对话场景 O(N) 全量 LLM 比较。
- 检索改成闭环：根据 query 动态给不同关系视图分配预算，并在证据充分或边际收益低时提前停止。适合搜索/推荐 Agent 在多轮交互中控制上下文成本，避免无关信息稀释推荐理由。
- 可参考其“写读同一控制平面”思想：在用户画像/会话状态记忆中，构建与检索使用同一套关系判断模块，避免两套逻辑不一致；对成本敏感的场景尤其值得落地。
onPanda：基于 Token 级纠错的 LLM 与 Agent 对齐数据高效标注
🧭 LLM 对齐数据标注 · token-level correction
StepFun · Xiamen University
用 token 级定位-纠错-续写循环高效生成 on-policy 对齐数据，标注时间中位数降低 52%
📌 工作参考价值（4 点）
- 生成式推荐/对话式 Agent 的 SFT 数据可由模型续写产生：先让模型生成候选回复，标注员只做 token 级首错纠正，后续自动截断重新生成，大幅减少人工整段改写，同时保持数据接近模型自身分布。
- token 级纠错记录提供「前缀 - 错 token - 正确 token」的孪生样本，可直接构造细粒度偏好对或 token 级 loss，比整句 preference 更有定位能力，适合电商导购话术、搜索词改写等短文本生成的调优。
- 对 Agent 轨迹标注可借鉴其交互思路：在 trajectory 回放中定位第一个错误 step/token，修正后继续 roll-out，能获得低成本 on-policy 轨迹数据并保留后续状态分布，适合工具调用、多轮商品推荐对话的数据采集。
- 工程上可参考其候选 token 展示与编辑结合的方式：先给出模型 top-k token 供快速点选，无法匹配时再自由输入，兼顾标注效率与灵活性；概率颜色编码帮助标注员快速定位低置信 token。
Ovis-Embedding：全模态统一嵌入模型
🧭 多模态统一 Embedding 训练
Alibaba Token Hub, Alibaba Group
基于Qwen-omni的原生多模态统一embedding，在多个检索基准上达到SOTA
📌 工作参考价值（4 点）
- 复用大规模多模态LLM作为embedding backbone：直接对Qwen-omni做对比学习微调，而不是从零搭多塔，能以较低成本获得高质量统一表示。电商场景可类似地用商品图文视频数据微调多模态LLM，得到商品统一embedding用于跨模态召回。
- 同源采样构造任务一致batch：按数据来源/模态分组采样，让in-batch negatives更相关、更有信息量。在推荐/搜索的多行为、多内容源训练中，可以按用户行为类型或item类目分组，提升对比学习效率。
- focal loss强调难样本：对困难负例加大权重，适合处理点击/转化数据中的长尾和难区分样本，尤其适用于召回模型中难负例挖掘。
- 低秩特征分解灵活控制维度：一套模型可输出不同维度embedding，低维用于快速召回、高维用于精排，减少存储和计算成本，类似推荐系统里的多级向量索引设计。
RRSI：Agent 外壳的正则化递归自改进
🧭 Agent 自改进正则化 · harness 进化 ★ 深度解读
Google Cloud AI Research · UNC-Chapel Hill · Stanford University · Washington University in St. Louis
用 proposal 与 selection 两侧正则化约束 Agent harness 自改进，缓解在有限 evolve set 上的过拟合
📌 工作参考价值（4 点）
- 在电商搜索/推荐 Agent 或购物助手做自动化 prompt、tool description、context 管理的 A/B 调优时，很容易在内部小评测集上过拟合。可复用 RRSI 的 leakage screening：评估前先用 critic 过滤掉显式包含 task name、商品名、类目特定逻辑或实体值的候选，防止这类候选靠局部泄漏获得高 evolve score 进入后续搜索。
- 引入 noise band 接受 floor：先在固定 base harness 上重复评估估计噪声 δ，候选分数必须 ≥ S*-δ 才允许替换 incumbent。这能避免在搜索/推荐 Agent 的策略迭代中，把随机噪声冠军当成稳定改进永久写入系统。
- cost-aware acceptance 对生产很有用：任何候选若增加 policy tokens（例如更长的 few-shot 示例、更多 tool schema 字段、额外 context 读取），必须用 ΔC ≤ β0 + β1 ΔS 证明收益。可以直接迁移到线上成本约束的推荐 Agent 或 LLM 链路，避免演进结果越来越贵但得分不涨。
- 结构化探索和 evidence-aware history 可以复用到 query 改写策略、召回 prompt、排序 Agent workflow 的自动搜索：记录每轮修改的组件、假设和验证结果，停滞时优先探索从未改过的组件（如 control flow / context 管理而非继续改 prompt）。另外可加一个跨模型验证步骤：搜索得到的 harness 若不随 backbone 能力消失，才更像可复用机制而非策略专属补丁。
RULER：面向 SVG 生成的实例感知评分规则奖励
🧭 RL 奖励设计 · SVG 生成
Ant Group · The Hong Kong University of Science and Technology (Guangzhou) · Independent Researcher · University of Oxford
用实例感知 rubric 奖励替代标量指标，VLM 逐项评分并结合 GRPO，无需真值即大幅提升 SVG 生成质量
📌 工作参考价值（4 点）
- 用多维 rubric 替代标量奖励：商品文案、广告创意、AI 生成图片等开放式生成任务中，若仍用 CLIP/Aesthetic 等单一 scalar 作为 reward，容易出现 reward hacking；让 VLM judge 按语义、视觉、风格多轴逐项打分，可提升与人类判断的一致性，并作为 RL reward。
- instance-aware rubric 动态生成：不依赖固定评估模板，而是针对每条 instruction / 用户场景生成定制评分项；在推荐解释、push 消息、搜索 query 生成中，可按用户意图或商品属性动态生成评估维度，比全局统一指标更精细。
- 无真值/无偏好标注的 RL 训练：RULER 仅从文本生成 rubric，不要求配对 ground truth 或人类偏好标签；对电商场景的生成式推荐/文案任务，可用现有 VLM 做自动评估器，降低人工标注成本，再结合 GRPO 优化。
- 先验证 judge 相关性再用于 RL：在工程上，可先构建 rubric prompt + VLM judge，验证其与少量人工评分的相关性，确认可靠后再接入 GRPO 训练；避免直接采用不可靠 reward 导致策略退化。
VideoGen-Agent：强化视频生成智能体
🧭 多模态 Agent 工具使用与强化学习
Princeton University · Stanford University · UC Davis · MMLab, CUHK · Independent
通过多任务智能体强化学习训练多模态 Agent 协调外部工具，显著提升复杂视频生成任务的指令遵循能力。
📌 工作参考价值（4 点）
- 多工具 Agent 的「检索/增强 → 生成 → 验证」闭环可迁移到电商导购 Agent：先搜索增强获取商品知识，再生成推荐理由/文案，最后校验属性一致性与用户意图覆盖，提升复杂需求满足率。
- 奖励函数分解为工具调用合法性、任务适配性、内容质量三类，并做类别平衡与类别感知加权，可借鉴到推荐/广告文案生成 Agent 的训练中，避免只优化点击或转化导致工具滥用或内容偏置。
- 先 SFT 教师轨迹再 RL 精调，且生成工具可独立升级无需重训 Agent，这种解耦架构在业务中可大幅降低迭代成本：底层生成模型或检索库更换后，策略网络无需重新训练。
- VABench 的评估维度（专业知识、身份保持、物理一致性、场景构图、多镜头时序）可迁移为电商视频/商品描述生成的评测框架，尤其多实体身份一致性和时序事件逻辑值得借鉴。
文档检索感知分块 D-RAC：通过 PDF 归一化与多模态 Markdown 转换实现通用企业文档摄入
🧭 企业文档 RAG 摄入与分块
AI Research Team, Yellow.ai
D-RAC 将任意文档先归一为 PDF，再用多模态 LLM 转检索优化 Markdown 后按 ID 规划分块，显著降本
📌 工作参考价值（4 点）
- 对电商/广告团队构建产品文档、招商政策、客服知识库等 RAG 时，可先统一归一化为 PDF，再用单个多模态 LLM 转 Markdown，避免为 DOCX/PPTX/XLSX/扫描件分别开发解析器。
- 将表格改写为自包含 prose、保留标题层级，能显著提升商品规格表、价格政策等表格密集文档的 chunk 检索召回。
- 分块规划只在 ID 层级做、不重写文本，既降低 token 成本又避免幻觉，适合离线大批量摄入文档并保持可复现、可审计。
- 报告中 token 减少 95.7%、分块成本降低 77.8%~85.6%、时间降低 75%、线性扩展到 500+ 页，可直接作为内部 RAG 摄入预算与架构选择的参考。
WorldCrafter：具备隐式 3D 感知记忆的一致视频世界模型
🧭 视频世界模型 · 3D 记忆
ARC Lab, Tencent IEG · Peking University
用相机可查询的隐式 3D 记忆压缩多视角证据，实现长时域一致的视频世界探索
📌 工作参考价值（4 点）
- 固定 token budget 的记忆压缩思想可直接借鉴到用户长期行为建模：将多源行为序列压缩成固定数量的 target-conditioned tokens，避免长序列直接进模型带来的 KV cache 和计算压力。
- pose-conditioned readout 可类比为“场景/意图条件下的记忆读取”，在推荐或 Agent 中可按当前上下文动态选择历史信息，提升长期依赖建模。
- few-step distillation 用于加速生成过程，对生成式推荐或文案生成模型的推理加速有参考价值。
- 整体仍是视频世界模型方向，与电商/推荐业务直接关联较弱，主要是工程方法上的通用借鉴。
X-Planner：面向具身智能的事件结构化任务规划
🧭 具身智能任务规划 · VLA 规划前端
X Square Robot Team
为 VLA 引入事件结构化规划前端，联合离散事件状态与潜在 CoT 状态，用阶梯解码和冻结重建提升长程规划质量
📌 工作参考价值（4 点）
- 事件结构化规划拆成「可解释离散事件状态 + 连续潜在 CoT 状态」双接口，可迁移到电商 Agent 的长流程任务：让 LLM 输出可读子目标序列，同时保留 latent 状态跨层传递，兼顾审计与推理深度。
- 用冻结的 latent-to-text 重建目标作为语义锚点，适合在业务中给隐状态加约束，避免端到端训练后 latent 漂移，尤其适用于没有大量标注的推荐/搜索 Agent 规划数据。
- 利用接管时间（takeover time）和人工注入失败样本训练持续错误识别，可借鉴到交互式推荐或对话 Agent：把用户中断/纠正日志作为弱监督，训练模型提前识别错误。
- 离线评估采用两步法：先评规划文本质量（BERTScore/LLM judge），再测下游执行；业务中可把「规划质量」与「最终业务指标」解耦，缩短迭代周期。
CARD：聚类适配与奖励引导解码实现个性化文本生成
🧭 LLM 个性化文本生成 · 聚类 LoRA 与解码注入
University of California, Irvine · University of Amsterdam · TikTok
提出分层个性化框架 CARD：用户聚类学习组级 LoRA，簇内对比隐式学习个体偏好，推理仅解码注入实现高效个性化生成
📌 工作参考价值（4 点）
- 电商/广告文案生成可借鉴“先用户聚类 + 组级 LoRA”的两级适配：用行为或风格特征对用户分簇，每簇训练一个 LoRA，避免 per-user 全量微调，兼顾个性化与规模化部署。
- 簇内个体差异无需人工标注：用用户历史真实文本（如历史点击商品标题、评价、搜索词）作为正样本，簇级通用生成文本作为负样本，做对比学习得到轻量 user preference vector，可直接迁移到个性化 push 文案、商品描述生成。
- 推理时个性化只注入 decoding：base model 冻结，仅加载 lightweight user preference vectors 和 low-rank logit corrections；工程上线上可按用户簇切换对应 LoRA 和向量，存储与推理开销低，适合需要高频 A/B 和千人千面文案的推荐场景。
- 冷启动用户可先归入簇使用组级 LoRA + 默认偏好向量，后续积累数据再学习个体向量，平滑过渡成本低，可复用到新客或低活用户个性化激活。
从一到多，多到一：面向软件工程 Agent 的类别感知迭代专家训练
🧭 类别感知迭代专家训练与策略集成
Alibaba Group
解决软件工程 Agent 多类别任务在不均衡 RL 下的跷跷板问题，通过类别专家迭代训练与多教师蒸馏融合为单一策略
📌 工作参考价值（4 点）
- 类别不平衡下的 RL 训练：在电商/广告/搜索推荐场景中，不同 query 类型、商品类目、用户分群上的 Agent 策略提升往往不均。可借鉴将任务池按业务维度划分，分别训练类别专家，再合并，避免统一 RL 导致部分类别退化。
- 迭代刷新-修复-扩展（RRE）机制：用当前策略重新评估实例掌握度，复用自身验证成功的轨迹做 Repair SFT，再按策略短板重新采样任务继续 RL。可迁移到推荐 Agent 的长期训练中：周期性用线上策略回放成功 case 做 SFT，并动态调整训练样本分布，缓解遗忘和分布漂移。
- 无需外部教师模型：整个专家训练和集成不依赖 GPT-4 等外部模型生成轨迹或动作目标，全流程自举。对于企业内数据合规和成本敏感场景很有价值。
- 多教师在线蒸馏（MOPD）：通过标签路由将多个专家蒸馏到单一可部署学生模型，并用 ReLU 门控只保留每个教师相对参考策略的改进方向，可避免集成时负迁移。可借鉴用于多任务或多场景模型合并，尤其是线上只能部署单模型时。
AutoRecLab：描述实验，自动生成推荐系统实验代码
🧭 Agent 自主科研与代码生成
University of Siegen · University of Göttingen
用自然语言提示自动实现推荐系统实验代码，结合RAG、静态类型验证与执行引导树搜索
📌 工作参考价值（4 点）
- 把实验代码生成拆成“需求抽取→原型→验证→迭代扩展”的流水线，可借鉴到内部实验平台：用 LLM 自动将实验配置转成可执行 Python/Java 代码，减少手工编写 baseline 和评估脚本。
- RAG 检索内部 RecSys 框架、数据 API 和实验平台文档，能显著减少 LLM 对私有接口的幻觉；结合静态类型检查（mypy/pyright）和执行反馈（跑测试、捕获报错）作为生成质量门禁，比单纯生成代码更可靠。
- 执行引导的树搜索可复用：对候选代码路径展开、执行、根据结果剪枝，适合离线批量生成多个算法/多数据集实验；文中单次成功运行约 1 美元，说明小规模试跑成本可接受。
- 该演示主要覆盖学术场景的显式→隐式反馈转换实验，业务落地还需补充线上数据 schema、评测指标、版本管理等约束，但可先作为内部实验脚手架或新人 onboarding 工具。
AutoViewMem：自配置正交视图的对话长期记忆框架
🧭 Agent 长期记忆 · 多视图写入组织 ★ 深度解读
National University of Defense Technology
在写入时用自配置低重叠语义视图组织长期对话记忆，使简单 top-K 检索即可稳定找到相关证据
📌 工作参考价值（4 点）
- 对电商导购 / 客服 Agent 的用户长期记忆，不要把所有对话日志压成一个 embedding；可借鉴 AutoViewMem 用多个语义视图（如偏好、预算、物流、售后、家庭结构）在写入时抽取结构化字段，降低后续检索的语义干扰。
- 视图选择可用 DPP 做低重叠、多样化的轻量 schema 选择：每 N 个会话块让 LLM 候选生成视图，再用同一 dense encoder 嵌入并选 top-K，工程成本可控，且能动态适应用户专属画像。
- 检索评估必须按 provenance / 证据 ID 去重，否则同一证据在不同视图下重复命中会虚高；落地时给每条记忆打 timestamp、view tag、source span ID，便于审计、回滚和线上诊断。
- 离线 consolidation 可用 embedding 相似度构图 + LLM 裁决合并冗余，但要保留 provenance 并谨慎处理时间版本与冲突；可异步执行，不改变在线检索链路，适合 Agent 长期记忆增量化维护。
CASCADE 对抗越狱：跨阶段组合与受控攻击-防御评估
🧭 LLM 安全防御组合与评估
School of Computing, National University of Singapore
首个系统研究 LLM 越狱防御跨阶段组合，标准化评估框架发现组合防御显著提升安全性
📌 工作参考价值（4 点）
- 若业务中部署 LLM Agent（如对话式推荐、自动生成广告文案），不要依赖单一防御，建议采用分层管道：输入阶段过滤 + 输出阶段监控，组合可显著降低越狱成功率。
- 评估自家 LLM 应用安全性时，应统一攻击成功率定义并控制攻击查询预算，避免不同设置下的不可比性，文中 CASCADE 框架可直接借鉴。
- 优先选择那些在组合后效用损失最小的防御对，例如输入改写 + 输出分类器，而非追求单个最强防御。
- 该工作主要面向安全攻防，对推荐/广告算法核心指标无直接提升，但可作为 LLM 应用上线前的安全测试规范。