从轨迹到证据:工业研究智能体的可审计实验记录
🧭 研究智能体实验轨迹的证据化与审计 ★ 深度解读
Kuaishou Technology
提出将研究智能体实验轨迹转化为可审计、带边界的证据记录,用于可控的跨任务复用
📌 工作参考价值(4 点)
- 在工业推荐 agent 实验中,将多轮实验轨迹转化为有边界、可审计的 Repair/Guard/Withheld 记录,不直接信任最终状态或未验证轨迹
- 引入 上下文隔离的“生成-验证-修复”循环:在 proposal、code 等交接点检查 artifact 与证据一致性和下游需求缺失,用独立上下文避免盲点共享,减少无效实验消耗
- 通过执行有效性门控(实现保真、执行完整、评估协议、机制保留)筛除无效轮次,并基于可归因证据对干预进行资格认定,避免混淆结果污染知识库
- 构建冻结的记录注册表,下游由混合 LLM 控制器做 Apply/Defer/Reject 决策;实验显示控制器决策准确度有限(Affirmative precision 25%),建议将 Apply 视为待验证假设而非确认,需结合人工审核或保守策略
从经济智能体到智能体经济:经济世界模型的系统蓝图
🧭 多智能体仿真与经济机制设计
Shenzhen Loop Area Institute · School of Data Science, The Chinese University of Hong Kong, Shenzhen · University of Hong Kong · Nanyang Technological University
提出六层经济世界模型能力阶梯,驱动多智能体从规则到自进化、制度内生与虚实对齐
📌 工作参考价值(4 点)
- 借鉴六层能力阶梯设计推荐/广告系统的演进路线:从固定策略到 LLM 驱动的自适应 Agent,再到自进化智能体,可规划 Agentic 推荐能力的长期迭代方向。
- 用经济世界模型作为「沙盒」离线评估推荐策略:构建多智能体仿真环境,模拟用户、商家、平台交互动态,测试竞价、排序、冷启动等策略的系统性长期效果。
- 内生制度演化的思想可迁移至推荐市场的机制设计:让计价、流量分配、出价规则由智能体在仿真中自适应调整,自动发现更优的市场机制。
- 利用 LLM 驱动异构 Agent 行为建模,低成本仿真复杂用户和广告主行为,替代部分线上 A/B 实验的预评估。
从失败中学习:检索中心化思维链与难负样本驱动的统一多模态检索
🧭 多模态检索 · 检索中心化思维链
Glint Lab
提出UniME-R1,基于检索反馈生成思维链纠正嵌入器混淆,借助难负样本与强化学习提升检索
📌 工作参考价值(4 点)
- 检索反馈驱动的思维链:在推荐重排序阶段,可对初始召回结果生成解释性推理文本,放大易混淆 item 的细微差异,用于 query 改写或特征增强。
- 难负样本挖掘策略:有效模拟线上召回失败 case,尤其适用于构建对抗训练集,提升模型对相似商品/视频的判别力。
- 双模式嵌入器设计:直接检索与 CoT 增强检索双路并行,可在精排场景中作为混合表示,或用于多阶段漏斗中粗精排衔接。
- 检索导向强化学习:将对齐奖励直接定义在检索指标上,可迁移至推荐场景中,优化生成式推荐模型的最终曝光收益而非中间 token 似然。
DEGR:双探索驱动的生成式重排序实现自适应跨请求上下文桥接
🧭 生成式重排序 · 探索性奖励模型 ★ 深度解读
JD.com
提出双探索生成式重排序,通过混合监督-强化学习与探索性奖励模型自适应平衡即时与探索价值,提升电商推荐效果
📌 工作参考价值(4 点)
- 探索性奖励模型设计:将“序列探索价值”量化为可学习奖励,结合上游 pCTR 动态调整权重,在低质量候选集时自动优先保留浏览潜力,可直接迁移到搜索推荐的重排阶段,尤其适用于冷启动或召回质量波动场景。
- 混合优化范式(SL + EDC + AR-ORPO):监督学习保持在线分布稳定性,探索多样性约束(EDC)缓解并行解码头的语义坍缩,AR-ORPO 利用奖励值作为软权重建构偏好列表替代硬排名,比标准 ORPO/DPO 更鲁棒,适合生成式推荐或 Agent 策略优化中的对齐训练。
- 并行解码与高效采样:多头并行生成 + 群组束搜索/启发式混合采样,将序列生成复杂度从 O(M) 降至 O(M/K),线上 TP99 仅增加 3.2ms,可直接用于低延迟的实时重排或对话式推荐生成。
- 跨请求上下文桥接思路:显式建模当前请求的探索行为对未来点击/浏览的影响,可在精排或重排阶段加入类似“未来请求增益”辅助任务,提升长期用户活跃度。
对抗求解器校准的终端任务生成系统CalibForge
🧭 Agent 训练数据合成 · 难度对抗校准
Renmin University of China · Independent Researcher · AweAI Team
通过对抗性多求解器校准生成难度适中的终端任务,显著提升agent训练效果与泛化能力
📌 工作参考价值(4 点)
- Agent 训练数据构建范式:用强弱求解器对比(Strong-Pass/Weak-Fail)定位“可学习难度区间”,过滤过难/过易样本,可直接用于电商 Agent 任务合成(如购物决策、客服问答)来提升数据效率。
- 多求解器对抗校准:利用异质求解器池的不一致性来生成训练信号,类似集成/分歧挖掘,可借鉴用于搜索推荐 Agent 的多模型协作场景,例如用不同规模模型筛选高信息量训练样本。
- 任务难度自适应生成:通过迭代对抗修订(adversarial revision),让任务难度贴合当前模型能力边界,该方法可复制到生成式广告文案评估、自动化测试等需要动态难度控制的 Agent 任务中。
- 跨任务泛化验证:在 Terminal-Bench、SWE-bench、Doc2Repo 上均大幅提升,说明校准后的训练数据增强了 Agent 的通用规划与推理能力,对构建电商领域跨场景的通用 Agent 有参考价值。
多模态预训练物理学:知识流、模态协同、早期统一与配方
🧭 多模态预训练机制与训练效率优化
FAIR, Meta · Reality Labs, Meta · University of Oxford
系统揭示多模态预训练中知识非对称流动、模态协同依赖任务复杂度、早期统一优于晚对齐,并给出高效配方
📌 工作参考价值(4 点)
- 模态协同架构设计:在多模态推荐模型(如结合商品图文)中,采用共享注意力与层归一化,但解耦模态特定的 FFN,可促进协同并缓解竞争。
- 早期联合训练:从训练之初就统一多模态特征,而非分阶段预训练后对齐,能避免视觉惰性,使模型同时学习跨模态理解,对需要同时理解文本查询和商品图像的场景有益。
- 知识流动不对称性:语言先验可强驱动视觉生成,可利用文本生成增强商品图像描述或虚拟试穿模型的训练策略。
- 高效训练配方:通过 MoE 架构与训练策略压缩计算至原 5% 仍能保持强生成能力,直接适用于资源受限的电商多模态模型预训练。
多模态智能体训练:从多样性与难度结构设计有效环境分布
🧭 Agent 训练环境优化 · 多样性 & 课程学习
Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences
发现简单增加环境数量并不能提升智能体训练,提出能力感知环境选择与层次化难度课程来优化环境分布
📌 工作参考价值(4 点)
- 在构建用户模拟器或交互环境训练推荐/对话 Agent 时,可采用能力感知采样(AES),按所需能力(如物品识别、偏好推理、对话理解)均匀覆盖环境,避免数据偏向简单交互。
- 借鉴层次化难度课程(HDC),先去除环境中的显式提示信号训练基础能力,再逐步增加状态复杂度(如更多候选物品、更长历史),提升 Agent 的鲁棒性和泛化。
- 工程实现上,为训练环境标注“所需能力”和“状态规模”等元数据,动态调整采样权重,比盲目扩大环境池更高效。
- 在强化学习训练推荐策略时,注意环境分布的难度结构,避免随机均匀采样,课程化安排可加速收敛并提升最终效果。
EnvACE:通过世界排练内化环境动力学用于智能体强化学习
🧭 Agent强化学习 · 世界模型内化 ★ 深度解读
Shanghai Jiao Tong University · Zhejiang University · National University of Singapore · Sun Yat-sen University · Tencent Inc.
让策略自身扮演环境生成响应,内化交互动力学,实现不依赖外部环境的智能体RL训练
📌 工作参考价值(4 点)
- 训练范式迁移:将环境响应生成的角色交给策略自身,省去构建昂贵的外部仿真环境。对于电商工具调用 Agent(查询库存、下单、修改订单)的训练,可直接用历史交互数据让模型同时学习“动作+响应”,大幅降低环境搭建成本。
- 角色明智 GRPO:对 acting 和 rehearsal 两个角色分别计算基线,但共享参数梯度更新。电商 Agent 训练时可将用户模拟、工具返回模拟作为 rehearsal 角色,与真实 action 角色联合优化,让策略更深刻理解交互因果关系。
- 测试时安全排练:在正式执行前,策略内部进行多次“想象推演”,汇总反馈后指导实际动作。适用于高风险场景(如退款、取消订单、修改支付方式),提前预测错误并修正参数,避免真实环境错误操作。
- 数据效率提升:世界排练允许在无外部反馈的条件下持续改进策略,可在离线数据上预训练 Agent,或结合少量真实交互微调,提升 RL 样本效率。
EvolveNet:分布式代理程序协作进化,无需共享原始数据即可聚合经验
🧭 代理协作进化 · 程序聚合 ★ 深度解读
Hong Kong Baptist University · University of Science and Technology of China · The Hong Kong University of Science and Technology
将代理程序(harness)的本地进化成果跨客户端聚合,通过范围类型与行为证据解决程序编辑冲突
📌 工作参考价值(4 点)
- 分布式 Agent 策略协同:不同商家、品类或地区的推荐/搜索 Agent 可在本地数据上独立优化自己的 harness(提示、工具调用、校验规则),仅将编辑增量与行为证据上传,中心无需触碰原始数据,适合隐私敏感或数据隔离场景。
- 冲突解决与多域融合:聚合时采用范围类型(GLOBAL vs. HOME)与域守卫(guard),使针对特定品类的策略仅在对应条件下激活,避免跨域冲突;此设计可直接用于多域 Agent 的 prompt/workflow 聚合,如搜索广告的多行业模板合并。
- 安全回滚机制:行为门控(验证集上增益必须 ≥ 回退)保证合并不会导致整体性能退化,可借鉴到线上 Agent 的自动化更新管线,实现有保障的持续进化。
- 并行搜索加速:本地进化并行化,迭代轮次受最慢客户端而非总搜索时间限制,适合需要频繁迭代的电商/广告系统,可在不增加串行深度的前提下利用多团队并行实验。
隔离的代价:对称双边A/B测试的生态成本估算
🧭 双边平台实验设计 · 极端值理论估算隔离成本
Snap Inc.
揭示双边平台隔离实验中,匹配质量重尾分布导致生态成本恒定不随规模消失,并提供预检程序
📌 工作参考价值(4 点)
- 在电商/广告等双边市场进行隔离实验(如对部分卖家和买家分桶)时,需提前评估匹配质量分布的尾部特性:若为重尾,隔离造成的用户参与度损失不会随池子增大而消失,必须纳入预算。
- 可借鉴预检流程:先在小规模探索数据上校准尾指数,利用论文公式预估隔离损失,若超过容忍阈值,改用单边消融或其它替代设计,避免无谓的生态伤害。
- 将隔离视作有成本的实验方法,类似多臂老虎机的探索成本,实验平台应提供工具自动估算并展示预期损失,帮助团队做实验设计决策。
- 对于推荐系统的冷启动实验或创作者侧实验,该方法可直接迁移:通过A/A测试量化隔离带来的参与度降级,并基于极值理论外推至全量场景。
GST-Bench:评估 VLM 从视频中形成全局空间感知的基准
🧭 视觉语言模型空间推理评估
ByteDance Seed · Zhejiang University · National University of Singapore
提出全局时空视频理解基准,发现最强 VLMs 零样本得分仅 42.68(人类 79.08),长视频场景整合能力严重不足
📌 工作参考价值(4 点)
- 主要是学术贡献,对电商/推荐系统的直接工程借鉴有限。
- 若未来涉及 AR/VR 导购或机器人店内导航,长序列视觉空间整合的评估思路可参考。
- 合成视频数据生成策略可用于构建训练数据,辅助需要空间感知的视觉下游任务。
- 揭示了当前 VLM 在长时程多视角视觉融合上的短板,提示设计用户行为理解模型时不可忽视长期依赖性建模。
观察校准自蒸馏:解耦智能体强化重放信号的混杂因子
🧭 Agent 强化学习 · 令牌级信贷分配 ★ 深度解读
Meituan LongCat Interaction · Nanjing University · Peking University · McMaster University · Fudan University
通过对比含/不含未来观察的结构化重放视图消除支架混杂,为GRPO提供校准的令牌级更新信号
📌 工作参考价值(4 点)
- 特权重放信号的混杂控制:在使用未来反馈或后见之明信息进行令牌级监督时,可构造“完整视图”与“消融视图”(如仅屏蔽关键未来信息,保持格式、动作支架一致),取两者分数差作为残差,剔除由重放格式、支架引入的偏好偏移,从而使特权信号更干净地归因于目标信息。
- 选择性校准高不确定步骤:按旧策略的序列平均负对数似然排序,只对每个轨迹中前20%高困惑度步骤施加令牌级精细化信号,既能提供有效指导,又避免对低价值步骤引入噪声,提升训练效率与稳定性(计算开销仅增1.4%)。
- 保向调幅的集成方式:在政策优化时保持原始轨迹级优势的方向不变,仅用校准信号按比例缩放更新强度(如 \(bA_{text{cal}} = bA \cdot (1+\beta \cdot \text{sgn}(bA) \cdot q)\)),易于嵌入现有GRPO/PPO框架,无需额外损失项或辅助目标。
- 适用于多步交互型Agent:该思路可直接迁移至对话推荐、搜索代理等多轮交互场景,利用后续用户反馈或环境状态构建结构化对比视图,实施步骤级信用分配,提升策略学习对关键行动环节的敏感度。
灌丛鸦情景记忆启发的Agent记忆系统
🧭 Agent记忆系统 · 时间衰减
Birla Institute of Technology and Science, Pilani
将灌丛鸦的What-Where-When记忆与类型条件时间衰减引入LLM Agent记忆,有效处理过期事实
📌 工作参考价值(4 点)
- 对话式推荐或搜索Agent中,用户偏好与促销事实时效性不同,可借鉴类型条件衰减系数,为每条记忆(如短期价格 vs 长期偏好)自动分配不同半衰期,避免过期信息污染上下文。
- 记忆存储采用WWW元组及可腐性π_i和效用期限τ_i,检索时结合查询自适应打分,可对已有向量知识库做动态时效加权,提升检索精准度。
- 更新机制仅需O(1)次LLM调用,工程上轻量,适合电商高并发场景下记忆增量修正。
- 引入的Temporal Generalization Test(TGT)和Generalization Gap指标可用于评估自家记忆系统对时间泛化的能力,辅助上线前量化时效性风险。
HarnessOpt-Bench:大模型Harness优化评测基准
🧭 大模型Harness自动化优化基准测试
Scale AI
首个评估LLM端到端Harness优化的基准,揭示模型差异大于框架且原生框架不总占优
📌 工作参考价值(4 点)
- 在搜索推荐系统的Agent搭建中,可引入类似Harness优化流程:以LLM自动迭代提示词、工具组合、控制流,基于离线的固定评估预算搜索最优配置,替代纯人工调参。
- 借鉴信任执行环境(TEE)设计,为优化过程建立沙盒,严格隔离测试集,防止信息泄露,同时跟踪资源消耗与版本历史,确保线上Agent迭代的安全性。
- 选择优化器模型时优先考虑本基准中表现更强的模型(如GPT‑4o),因其优化增益显著高于弱模型;业务中可先对候选模型进行简易评估,再投入自动化调优。
- 初始种子Harness对最终增益影响大,推荐由领域专家设计多个有差异的种子基线,再让优化器在预算内探索,以获得更稳定和泛化的性能提升。
活动框架:用于 Agent 记忆与回放的确定性屏幕活动编译
🧭 Agent 记忆压缩与成本归因
Independent Researcher
将屏幕操作编译为缓存友好的结构化记忆,使 Agent 以极低 token 开销准确回答用户日常行为问题并量化例程成本
📌 工作参考价值(4 点)
- 用户行为记忆与复用:在电商运营、广告优化等 Agent 辅助场景中,可通过被动屏幕捕获将运营人员的操作流(选品、调价、搭建计划)编译成结构化记忆块,替代 LLM 摘要,减少重复推理的 token 消耗,提升 Agent 对上下文的理解准确率。
- 零模型回放降低延迟与成本:已编译的例程可在命中时直接确定性回放,无需模型调用,实现零 token 自动化。适用于高频、重复的标准化操作(如日常报表拉取、状态检查),推动 Agent 行为从“再生”到“复用”的范式转变。
- Agent 成本归因与价值量化:引入 Routine Overhead Ratio (R) 与可委派重复率 (h),可前置衡量将人工操作交给 Agent 的 token 放大倍数与复用上限,指导决策哪些流程适合自动化、预期收益如何,为 Agent 投产提供量化依据。
- 工程实现借鉴:采用无模型、确定性的分段编译器,输出 byte-identical,可缓存、可审计,适合在隐私敏感或需要严格复现的零售、金融场景落地,且内存占用极低(86× 压缩,数十毫秒处理完整日屏采集)。