MintAct：统一数字环境的视觉Agent模型
🧭 多模态Agent统一数字环境操作
Apple
用2B/4B/8B视觉语言模型统一UI定位、跨端多步导航与视觉工具调用，匹配各领域专用模型
📌 工作参考价值（4 点）
- 在电商/广告场景中，可将UI grounding、跨页面多步操作、外部工具调用合并为一个模型，避免为不同端或不同任务维护多个专用Agent，降低部署和迭代成本。
- 借鉴其异步RL框架：显式控制跨域训练分布，能缓解环境反馈噪声和off-policy漂移；做推荐/Agent在线学习时，可参考这种对训练分布的控制来稳定多任务协同。
- 用数百个并发实例同时服务轨迹采集和在线RL的做法，适合需要大量交互数据的电商Agent、搜索导购Agent训练。
- 2B小模型即可在OSWorld-Verified等基准上取得有竞争力的表现，对需要端侧部署的App内助手、广告落地页交互优化有直接参考价值。
OmniVChat：原生音视频对话的合成、基准与训练
🧭 多模态LLM原生音视频对话训练与评估
The Chinese University of Hong Kong · Alibaba Token Hub, Alibaba Group · Shanghai Jiao Tong University · Shanghai Innovation Institute · Zhejiang University
提出多智能体数据引擎合成音视频对话，构建基准并用多目标RL奖励训练Qwen3-Omni
📌 工作参考价值（4 点）
- 多智能体合成音视频对话数据：电商直播客服、数字人导购可批量生成带场景、表情、物体的对话样本，降低人工采集成本，覆盖长尾场景。
- 原生音频视频输入省去ASR/字幕：实时交互Agent（直播问答、语音购物助手）直接输入多模态流，降低工程链路延迟和计算开销，保留情感/环境上下文。
- RL奖励联合优化正确性、效率与风格：对话式推荐/客服可借鉴多目标reward设计，避免只优化准确率导致回复冗长或延迟高；效率与风格项可按业务KPI调整。
- 合成数据训练+人类录制集验证迁移：离线用合成基准快速迭代，再抽检真实用户数据验证，可作为推荐/对话系统上线前的评估流程。
OPTED：基于无渲染教师的端到端驾驶在线策略微调
🧭 特权教师 on-policy 蒸馏
用RL训练矢量输入特权教师，在闭环中蒸馏至摄像头学生模型，大幅减少模拟器交互成本
📌 工作参考价值（4 点）
- 特权教师蒸馏可迁移到推荐/广告：实际线上受限于特征获取延迟或算力，可训练一个输入全量特征（如用户画像、后验转化、上下文）的教师模型，再将知识蒸馏到实时轻量学生模型；在日志回放模拟器中做 on-policy 更新，比直接在线 RL 成本低几个数量级。
- 用离线数据重建用户交互模拟器：类似 3DGS 从真实驾驶日志重建场景，推荐系统可基于离线日志构建用户状态转移模拟器，用于策略微调；能部分替代高成本线上 A/B，缓解行为克隆的开环偏差和状态分布偏移。
- on-policy 微调优于纯行为克隆：推荐/排序策略仅在离线日志上训练，线上易出现 compounding error；在模拟器中进行 on-policy 蒸馏或 RL 微调可改善鲁棒性，且教师提供密集监督信号，避免直接 RL 稀疏奖励难训练的问题。
- 教师可以无渲染（render-free）：若学生需要处理高维原始特征（文本、图像），教师仅使用结构化特征训练并在闭环中生成监督，可避免昂贵的前向模拟，降低训练成本；对 Agent 或生成式推荐中的策略蒸馏有借鉴意义。
RAFT：面向故障排查 Agent 的有状态检索增强框架
🧭 有状态 RAG 检索层用于故障排查 Agent
Microsoft
将历史案例建模为有向时间线条目链，在条目级检索匹配中间状态，显著提升案例命中率
📌 工作参考价值（5 点）
- 将长流程业务数据（如售后工单、客服会话、广告异常处理）建模为有向时间链条目，用条目级 embedding 检索，能匹配中间状态而非仅整篇相似度，提升问题定位精度。
- 检索时返回锚定在匹配状态的父案例轨迹，而不是完整长文档，可减少无关上下文噪声，降低后续 LLM 推理成本与干扰。
- 利用可配置相似性表示构建案例级图，可连接相似案例用于图检索或辅助导航，适合构建案例库的推荐和聚类功能。
- 只评估检索层（Case Hit）而非整个 Agent 系统，无需生产部署即可快速迭代检索策略；在业务中可先离线验证检索质量，再集成到在线 Agent。
- 合成数据结合真实标签数据（如 Jira duplicate labels）验证迁移性，对有标签的真实业务数据可低成本验证方法有效性。
RecreationWorld：面向混合计算机使用智能体的可扩展可验证环境
🧭 混合计算机使用智能体基准与训练 ★ 深度解读
Alibaba Token Hub, Alibaba Group
以“复刻运行中应用”为核心任务，构建跨五平台的混合 GUI/代码智能体基准与训练框架
📌 工作参考价值（4 点）
- 用“reference-as-oracle”做自动化回归：电商页面改版、前端重构、配置迁移时，把旧版/线上版本作为运行 reference，自动采集动作-响应和截图，生成 Programmatic + VLM 断言，替代人工比对，得到可回放、可量化的验收指标。
- 复制混合工作流到业务 Agent：不要硬限制 GUI-only 或 code-only；给 Agent 同时开放 GUI 观察、代码编辑、构建/运行三类工具，让它自主切换。论文显示这种混合轨迹在长程任务中切换频繁，且基于可验证环境做 SFT 能迁移到 OOD 编码/计算机使用任务。
- 用拒绝采样 + 可执行奖励造 SFT 数据：如果业务中有可自动评分的交互环境（如商品页面结构化抽取、RPA 流程、店铺装修），可跑多模型 rollout，用隐藏测试套件打分，选高奖励轨迹微调，减少人工标注。
- 工程降本技巧：把链式 MCP 原语调用改成持久化 REPL + typed SDK，让模型在本地循环处理中间结果，可大幅降 token 和成本（输入 -40.7%、tool-result -65.5%、成本 -54.1%），质量不降，适合 GUI Agent 落地。
人们几乎做了什么：超越行为拟合的 LLM 社交模拟评估
🧭 LLM 社交模拟评估 · 推理保真
The Information School, University of Washington · MIT CSAIL
提出 representational adequacy 作为 LLM 社交模拟的新评估目标，用推理轨迹衡量推理过程是否忠实于人群
📌 工作参考价值（4 点）
- 在电商/广告领域用 LLM 模拟用户对推荐、广告、搜索结果的反馈时，不要只收集点击/转化等行为动作；要求 agent 同时输出决策前的 reasoning trace，并检查 scenario–reasoning–action 三元组是否自洽，避免“行为相同但动机错误”扭曲 A/B 模拟结论。
- 评估用户模拟器或对话 agent 时，可将 representational adequacy 作为过程性指标：对比 agent 推理与真实用户访谈/出声思考/评论数据的差异，而不只对比动作分布或最终满意度评分。
- 工程上可把 reasoning trace 作为结构化状态存储（类似日志或 KV 状态），便于事后审计和回归测试；但注意可解释性不等于代表性充分，需要额外与真实认知数据对齐。
- 当前概念性较强、无现成测量方法，直接落地有门槛；但明确提醒：若用 LLM 模拟做干预比较（如不同推荐策略、广告文案），动机模型不可靠时结论风险高，建议对推理保真度做敏感性检验。
Schema 锚定潜在推理用于知识库问答语义解析
🧭 LLM 潜在推理 · 知识库问答语义解析
Institute of Automation, Chinese Academy of Sciences · Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences
在 LLM 隐藏状态进行连续潜在思维，通过 schema codebook 对齐与反馈延迟离散决策，提升 KBQA 语义解析组合问题性能
📌 工作参考价值（3 点）
- 对于需要多步生成结构化输出的任务（如商品筛选、广告定向、query 改写），可以把连续潜在状态作为中间表示，避免在每个推理步过早离散选择类目/属性/Semantic ID，降低错误传播。可在 Transformer 中引入专门 reasoning steps，训练时对齐真实结构化标签。
- 从已有的 query-结构化目标成对数据（query-LF、query-商品条件）自动构造中间对齐信号，类似 schema traces，无需人工推理轨迹标注，用于训练 codebook 或离散 tokenizer，将连续表示映射到业务 schema（类目体系、属性值、行为事件）。
- 在 LLM Agent 多工具调用之间维护潜在状态，延迟提交工具参数，并用可学习 codebook 将潜在状态对齐到工具 schema 可提升复杂任务规划成功率。工程上可固定 LLM 主干，仅训练 codebook 和投影层，实现低成本落地。
Treadstone：受社交媒体启发的多智能体协作数据分析平台
🧭 多智能体协作数据分析
用社交信息流机制组织人与 AI 智能体在数据分析中的异步协作与证据追踪
📌 工作参考价值（4 点）
- 把 agent 的中间结果变成 feed 流，而不是聊天记录：在电商/推荐场景中做数据分析、实验归因或策略探索时，可以让多个 agent 异步发布观察、假设和证据链接，人类分析师通过轻量 curation（点赞、置顶、标注）来控制方向，避免单一 chatbot 交互带来的上下文丢失和被动等待。
- 线程化和证据链接提升可追溯性：借鉴 Treadstone 的 threaded posts，为 agent 产生的每个结论强制附带 provenance（数据来源、处理步骤），便于审计和冲突消解。这在广告投放归因、推荐系统 ablation 分析中很有价值，能快速定位错误假设。
- 利用“主动广播假设”平衡 autonomy 与 human control：让 agent 在置信度达到一定阈值时主动推送候选洞察，而不是等待用户提问。在电商大促实时监控中，可让 agent 主动发现异常指标并给出解释草案，分析师只需确认或驳回，提高响应速度。
- 学术贡献为主，工程落地需要改造：平台本身面向通用数据分析，缺乏与推荐/广告系统的深度耦合，直接迁移成本较高；但“feed 化协作”的设计思想可以嵌入内部实验分析工具或 agent 工作流编排中。
图结构Agent技能的进化优化框架GraphSkillEvo
🧭 Agent技能图结构化与进化优化
City University of Hong Kong · National University of Singapore · Southern University of Science and Technology
将Agent技能表示为有向图并用进化算子搜索优化，平均精度比SkillOpt提升1.76–4.01个百分点
📌 工作参考价值（4 点）
- 在电商导购/客服 Agent 中，把任务 SOP 改成有向图技能：节点为执行步骤（意图识别、商品召回、属性比较、推荐解释），边为条件路由，能减少 LLM 对非结构化指令的理解歧义和冗余，提升多步推理稳定性。
- 将图技能作为可自动优化的结构化搜索空间：维护多个候选技能，用验证集或线上指标（转化率、点击率、任务成功率）做适应度，对节点/边执行 LLM 变异与交叉，组合不同技能的优质子图，比单条 prompt 自改写更容易搜出强工作流。
- 工程上可采用“初始化→验证打分→选 Top-N→变异/交叉→再验证”的离线或低流量循环，自动优化搜索推荐 Agent 的 prompt/workflow；重点是把上下文相关转移显式建模为边，避免非结构化 prompt 的冗余。
- 实现交叉/变异时需加入图结构校验，防止生成不可达或环状技能图；这在实际落地中比论文结果的精度提升更关键。
推理引擎指纹攻击的实用性：模型驱动的环境发现、利用与逃逸
🧭 推理引擎安全 · 模型驱动攻击
Harvard University
恶意模型仅通过生成特定输出 token 即可指纹并攻陷 vLLM、SGLang 等推理引擎
📌 工作参考价值（4 点）
- Agent 系统中模型输出也是攻击面：若业务用 Agent 驱动真实执行环境（如代码执行、工具调用），不能只防输入 prompt 注入，还要监控模型生成的输出 token 是否在探测运行环境。
- 自托管推理服务需评估引擎差异：不同推理引擎（vLLM、SGLang 等）对异常 token 序列的响应不同，选型时除了吞吐、显存，还要评估其安全更新频率与已知 CVE。
- 推理引擎应被纳入 sandbox 边界：不要默认推理引擎是可信组件，可考虑将推理引擎与关键业务网络隔离，并对输出 token 做异常检测或速率限制。
- 主要是安全学术贡献，业务可借鉴点有限：对推荐/广告系统本身没有直接迁移价值，但对依赖 LLM 的 Agent 基础设施安全设计有提醒作用。
UniPolicy：生成式搜索广告的统一目标专属策略
🧭 生成式广告检索 · 多目标RL对齐 ★ 深度解读
Meituan
用目标前缀、MoE-LoRA路由和专属FFN解耦多目标生成式广告检索策略，在线提升CTR/RPS/收入
📌 工作参考价值（4 点）
- 多目标生成式检索不要简单 reward fusion：用 objective prefix token + 稀疏 MoE-LoRA + objective-specific FFN，在同一个生成骨干上做层级参数隔离，显著缓解 eCPM/CTR/相关性之间的梯度竞争。
- 利用多阶段行为日志构造 Click > Exposure > Miss 的 pairwise margin loss，把“曝光未点击”样本用起来，显式建模候选间相对偏好，能提升生成结果的 NDCG 和点击候选排序。
- 推理侧采用共享 KV cache 的并行多策略 beam search，业务可灵活分配各目标候选配额；固定候选预算下用 trim-and-backfill 兜底，P99 延迟只增加 2.5%，适合工业检索在线部署。
- 目标前缀 token 可控性强：单独输入 <eCPM>、<CTR>、<Relevance> 即可触发对应偏好，线上可以按活动或场景动态调整配额，复用到电商推荐/广告召回的多业务目标平衡。
无损函数分解子词分词：将大小写/变音/重复编码为可逆操作符
🧭 子词分词 · 函数分解
Center for Transportation & Logistics, Massachusetts Institute of Technology
提出 Functionalizer 预分词框架，将大小写、变音、字符重复无损分解为 Unicode 操作符前缀，显著减小词汇量并提升代码生成质量
📌 工作参考价值（4 点）
- 面向多语言或 UGC 场景（跨境电商商品标题、评论、搜索 query），将大小写、重音、字符重复等表面变化从词汇表中剥离，用可逆操作符编码，可显著压缩词汇表、降低嵌入参数，且不丢失信息。
- Functionalizer 是可插拔的预分词器，能无缝接入现有 BPE/WordPiece 流程，工程实现成本低；可先在离线语料上验证词汇压缩率和下游任务（如 query 理解、CTR 模型）的 AUC 变化。
- 字符重复操作符对 UGC 中常见的情感强调（如“好好好”“赞赞赞”）有直接借鉴意义，可减少不同重复次数 token 的数量，避免词汇碎片化。
- 对代码生成或结构化文本任务，该方法通过保留结构信息提升语法有效性，提示我们在处理电商领域结构化数据（如商品参数模板、广告文案规则）时，可以尝试显式建模格式变化而非依赖模型隐式记忆。
细粒度 AI 评估的预测驱动平滑与验证
🧭 AI 评估 · 小域估计与预测驱动推断
Department of Statistics, University of California, Santa Cruz
用预测驱动推断与贝叶斯小域平滑，改善稀疏分群上的 AI 系统点估计、区间估计与估计量选择
📌 工作参考价值（4 点）
- 当按类目、流量入口、用户分群评估推荐或 Agent 指标时，小分群标签极少：可先对每个分群算 prediction-powered estimate，再用贝叶斯模型做平滑；如果有类目树或场景层级，用 PP-TS 跨层级借力，能获得更稳的区间估计。
- 已有 LLM judge 或自动打分器覆盖全量评估样本时，把它作为预测信号，只对少量样本做人工标注，能显著降低分群指标的方差；适合电商 Agent 多场景、多类目评估。
- 在 direct、PPI、smoothed 等多个候选 estimator 之间做选择时，可以用文中的 design-based CV score 替代单独留出 validation set，节省标注预算，且能更准确估计所选 estimator 的误差。
- 应用时注意其假设评估集是有限总体且抽样设计已知；实际可适配分层抽样或 uniform sampling。若预测模型与标签存在系统性偏差，需检查 interval coverage，不要盲目信任 smoothed 点估计。
校准教师-学生差异的在线策略蒸馏
🧭 LLM 在线策略蒸馏 · 教师偏差校准
Nanjing University · Southeast University · Nanjing University of Posts and Telecommunications
提出 Cal-OPD，用正负特权干预估计教师自身偏差区域，只保留超出的差异作为训练信号
📌 工作参考价值（3 点）
- 在业务中用大模型（teacher）蒸馏线上小模型做排序/召回/文案生成时，教师输出里混有自身偏差，尤其当输入包含特权信息（如用户真实意图、后验成交标签）时偏差更大；不要全盘学习教师输出，可借鉴 Cal-OPD 思路，通过正向/负向干预构造参考区间，只保留超出该区间的差异作为学习目标。
- 对推荐/广告场景里的生成式特征（如 query 改写、兴趣标签、商品卖点）进行蒸馏时，可以先用提示词注入正确与错误上下文，观察教师输出变化来定位不稳定区域，只对稳定差距做蒸馏，减少噪声传播。
- 实验表明只保留约 52-65% 的原始差异信号就能稳定超越标准 OPD，说明蒸馏数据不是越多越好，过滤掉教师自身波动能提升小模型泛化和训练效率，可指导工程上对蒸馏样本的筛选策略。
学习自己的思考：抽象 Token 课程
🧭 课程学习训练隐式思维表示
UC Berkeley · UC San Diego · EPFL · Google DeepMind
提出抽象 Token 课程（ATC），无需显式思维链监督，通过课程学习在连续表示空间形成内部抽象思考
📌 工作参考价值（4 点）
- 在训练推荐/Agent 的规划与推理能力时，可采用课程学习思路：按任务难度（如多跳路径长度、图规模、算术复杂度）从易到难组织样本，让模型在连续隐藏状态中隐式形成推理步骤，省去逐条标注 CoT 的成本。
- 若业务需要多步推理但显式 CoT 延迟高或标注贵，可尝试在 Transformer 中间层引入可训练的抽象 token，配合渐进课程，将中间推理压缩到连续表示空间，降低推理时的 token 开销。
- 理论分析提示注意力会自然聚焦于上下文中提供“最容易路径”的 token；构造课程样本时可在早期保留关键捷径 token，帮助模型更快收敛，后期再逐步移除捷径以强化内部推理。
- 当前验证集中在图可达性与算术任务，属理论性实验；迁移到大规模电商/推荐场景前，需要先在真实多跳推理任务上做小规模验证。