伦理培训智能体：角色扮演与讨论驱动的群体伦理教育系统
🧭 多智能体协作 · 伦理教育
KAIST · Georgia Institute of Technology
用多 LLM 智能体扮演不同伦理立场并配主持人，构建结构化人机群体讨论，提升伦理敏感度
📌 工作参考价值（4 点）
- 多智能体角色化设计：在电商/推荐场景可模拟买家、卖家、平台、监管等多方利益相关者，把产品策略或算法伦理评审变成多智能体讨论，提前暴露风险；给每个 agent 明确价值取向和发言约束，比单一 LLM 自问自答更容易产生对抗性视角。
- 引入 moderator agent 做结构化协调：负责话题推进、发言顺序、冲突收敛和纪要，这对多 agent 讨论质量很关键，可直接复用到 RAG/Agent 工作流中的多步规划与 orchestration。
- 人机混合群体讨论的评估方法：借鉴其用户研究设计，对落地 Agent 产品做过程性指标（参与感、视角采择、协调效率）和结果性指标（决策质量/敏感度）分开测量，而不要只看最终推荐效果。
- 局限：研究为伦理教育场景、用户规模 45 人，业务可借鉴点主要在 agent 编排与 human-in-the-loop 讨论设计，不直接涉及生成式推荐或 query 策略。
面向 LLM 电商的 Agentic 可见份额测量与竞争诊断系统
🧭 多 Agent 竞争情报 · ASoS 指标 ★ 深度解读
Georgia Institute of Technology
提出 ASoS 指标与多 Agent 系统，测量并诊断卖家在 LLM 生成式推荐中的可见性差距
📌 工作参考价值（4 点）
- 借鉴 ASoS 指标设计：用 rank-discounted share 衡量商品/店铺在 LLM 回答中的可见份额，分母只计入可解析到竞争集内的零售商；重复提及取最好 rank，多零售商归因均分权重，优先使用回答中的零售商归因而非目录解析。可直接迁移到电商团队监测 ChatGPT/Perplexity/Gemini 回答中的 SKU 级曝光。
- 架构分层可复用：uniform platform client + 可插拔 entity resolver + mock client 注入噪声做离线 CI，能降低多 LLM 平台监控的接入成本与 API 开销。QLoRA 微调小模型做商品名/SKU 归一化（93.7% top-1，不到 1% frontier API 成本）适合作为实体链接的轻量方案。
- 诊断任务选型 ReAct 而非 AutoGen/LangGraph：单轮 RCA/归因场景下 ReAct 的 thought–act–observe 循环足够，可审计 trace 且避免对话状态机开销；priority score = |r| × gap 按业务影响排序，比按异常度排序更贴近 merchandising 分析师的决策逻辑。
- 原型验证用 synthetic signal ablation：在缺乏因果 ground truth 时，通过随机消融信号看诊断 agent 是否 top-1 恢复，并报告无条件/条件精度与随机基线对比，可作为 agent 诊断能力可行性验证的轻量模板；但业务落地仍需人工审核和干预实验闭环。
面向支架式教学的多智能体LLM临床访谈训练系统评估
🧭 多智能体协作 · 教育训练
The Ohio State University · Hong Kong University of Science and Technology · Southern University of Science and Technology · Johns Hopkins University · Guangzhou Medical University
多智能体 AI 标准化病人系统通过患者/导师/逐轮评估分工与渐进式提示，提升医学生沟通、共情与病史采集过程质量，但不抬高诊断准确率
📌 工作参考价值（4 点）
- 多智能体角色分离：患者 / 导师 / 逐轮评估 agent 各司其职，避免单模型同时扮演多角色导致目标冲突。电商客服培训、对话式推荐沙盒可拆分为用户模拟、导购教练、质检 agent，提升训练可控性。
- 过程性反馈不透露总分：turn-level evaluator 只反馈行为进展，不暴露最终分数，减少 reward hacking。推荐 Agent 训练中可引入仅过程奖励或隐藏最终指标，让模型更关注交互质量。
- 苏格拉底式提示与渐进信息披露：tutor agent 用追问引导而非直接给答案，可用在智能导购 / 客服培训中，通过逐步追问用户需求、商品属性，训练 Agent 的提问与推理能力。
- 细粒度评估指标：OSCE 对齐的沟通、共情、病史采集行为分项改进，即使诊断准确率无差异。电商对话系统可借鉴构建 turn-level 过程评估，衡量提问覆盖率、共情表达等，而不仅看转化。
面向智能手术室的语音交互多智能体系统：架构设计与关键技术
🧭 多智能体语音交互 · KV Cache 优化
Wuhan United Imaging Surgical Co., Ltd. (UIS)
用 LLM 多智能体实现手术室语音控制与报告生成，重点优化 KV Cache 前缀复用、流式解析并行执行与渐进式提示披露
📌 工作参考价值（4 点）
- KV Cache prefix warming 可直接用于 Agent 长 system prompt 或设备状态频繁变化场景：将稳定的前缀（角色定义、技能列表、历史上下文）缓存，每次请求只重算变化部分。对电商导购 Agent，用户切换商品详情或筛选条件时，不必重算整个对话前缀，可把首字延迟从几百毫秒降到几十毫秒。
- 流式 partial JSON 解析 + 提前并行执行是降低端到端时延的有效工程 trick：LLM 以流式输出任务数组时，不用等完整 JSON 结束，解析到单个完整任务对象就立即调度执行。对广告文案批量生成、多商品并行推荐解释、多工具调用编排，能带来约 30% 的时延下降。
- 渐进式技能提示披露适合工具多的 Agent 系统：按用户角色、可用设备/工具、当前阶段动态裁剪 system prompt，只保留当前上下文最相关的技能说明。电商场景可复用为：按用户等级、可用的推荐/营销工具、会话阶段动态注入工具 schema，避免上下文浪费，提升长会话下的指令跟随稳定性。
- 多智能体架构与设备管理层解耦，可参考其 skill registry、task planner、device manager 的分层设计，在推荐系统中把“用户意图理解”“策略编排”“召回/排序执行”拆成独立模块，便于管控和低延迟并行执行。
MInTRL：用稀疏离线干预增强在线策略强化学习
🧭 LLM 强化学习 · 半在线纠错 ★ 深度解读
Amazon Web Services · Boston University
提出 MInTRL：在 on-policy rollout 中由 judge 做稀疏局部纠错，并用 advantage-regression 目标免去 importance sampling
📌 工作参考价值（4 点）
- 在线 RL/Agent 训练中，不要整段用 teacher 轨迹做 SFT 或 off-policy；可在 rollout 里让 judge 按 chunk 定位 first error，只替换错误后缀，随后控制权还给当前策略。工程上按 \n\n 或 code fence 切 step，限制 judge reviews 次数和 continuation 长度，把干预 token 占比控制在约 2–4%，收益最稳。
- 对混合来源轨迹（模型自生成 + 专家修正），不要用 GRPO/PPO 加 importance ratio，改用 sequence-level advantage regression：A(x,y)=r(x,y)-V_ctrl(x)，回归 log πθ/πt 到 A/β；value baseline 只从纯 on-policy control rollouts 估计，能显著降低修正 token 带来的方差。
- 干预 token 的 anchor 可以设为常数 κ，不必依赖 teacher log prob，避免低概率专家 token 被当前策略过度约束；当 base policy 已经较强时，再用原 πt anchor 更稳定。
- 只在训练早期开启 intervention，后期关闭切换为纯 on-policy RL；没有更强教师模型时，可以用 privileged context 让同一模型做 self-judge，对电商/Agent 业务更友好。
模型感知调度通过纤维最优传输改进生成
🧭 扩散/流匹配训练调度优化
Arnold-Sommerfeld-Center for Theoretical Physics, Ludwig-Maximilians-Universität München · Institute of Informatics, Ludwig-Maximilians-Universität München · Munich Center for Machine Learning
提出基于纤维最优传输的模型感知调度，显著提升扩散/流匹配生成效率，并发现可复用的风险模板
📌 工作参考价值（4 点）
- 训练时间重分配思路可迁移到扩散式生成推荐：用早期 checkpoint 估计模型在不同噪声时间步的预测风险，将训练采样集中在高风险区域，提升 item 表示生成质量或加速推理采样。
- 归一化风险 profile 跨模型/设置的经验普适性表明，可以离线生成一个冻结的解析调度模板，在类似任务中直接复用，省去逐模型调参成本。
- 模型感知调度把计算资源向预测困难处倾斜，与推荐中困难样本挖掘/课程学习思想一致，可结合业务指标设计风险函数，例如对高交互稀疏 item 的时间步加权。
- 注意该工作面向图像生成，迁移到推荐需谨慎：需重新定义纤维上的 OT 成本（如 item embedding 距离），并适配召回/NDCG 等业务目标。
MoE 强化学习中的专家空间探索方法 ESRL
🧭 MoE LLM 强化学习 · 专家路由空间探索 ★ 深度解读
Tsinghua University · Microsoft Research
通过扰动专家路由、锚定高置信专家并重放路径，在 MoE LLM 的 RL 训练中实现安全的架构级探索，提升推理性能
📌 工作参考价值（4 点）
- MoE 生成式推荐/Agent 策略训练可迁移：若用 MoE LLM 作为生成式推荐（如 Semantic ID 生成、query 改写）或 Agent 策略网络，在 RL/在线学习阶段可将 expert routing 作为额外探索维度，通过扰动 router logits 提升轨迹多样性，缓解策略收敛后 rollout 多样性下降、优势信号变弱的问题。
- 锚定专家采样控制探索质量：不要对全部专家加噪声，而是保留 top-K 中的高置信专家作为锚点，只从候选池中随机探索剩余专家；聚合权重仍使用原始 logits。这一 trick 能防止随机路由到不合适的专家导致生成质量崩塌，对搜索/推荐场景中的生成质量稳定性尤其重要。
- 路由重放（Rollout Routing Replay）保障 rollout 与训练一致：在在线学习或 RL 训练中，记录 rollout 时实际激活的专家路径，优化阶段绕过 Top-K 直接复用该路径，避免因重计算路由导致探索到的专家未参与梯度更新。该方法与业务中常见的 MoE 在线学习/增量训练场景直接兼容。
- 自适应噪声强度：根据 router 的归一化熵调整扰动幅度——低熵（分布尖锐）时加大噪声，高熵时减小噪声。相比固定噪声，能更平稳地探索，尤其适用于需要兼顾效果稳定性的电商/广告长尾 query 或 item 生成任务。
目标泄漏而非模型类别解释心血管筛查报告准确率：玻璃盒与表格基础模型泄漏分层审计
🧭 表格模型评估与目标泄漏审计
Data Science and AI Cluster, XU Exponential University of Applied Sciences, Potsdam, Germany · German University of Digital Science, Potsdam, Germany · College of Engineering, Abu Dhabi University, Abu Dhabi, United Arab Emirates · College of Technological Innovation, Zayed University, Abu Dhabi, United Arab Emirates · Cleveland Clinic Hospital, Abu Dhabi, United Arab Emirates
十个分类器在44万样本审计显示，移除两个诊断后特征使所有模型AUROC下降约0.05并收敛至0.0045带宽，性能差距来自特征泄漏而非模型架构
📌 工作参考价值（4 点）
- 建立泄漏分层特征审计：把与标签有因果/后诊断关系的特征按泄漏风险分层，观察移除后所有模型 AUC 的同步下降，电商推荐里类似“用户已加购/购买后的行为特征”会带来虚假 recall，需要消融区分特征贡献与模型能力。
- 玻璃盒模型（EBM）在表格任务上精度可非劣于复杂模型且推理快约两个数量级，适合线上排序/召回候选生成中低延迟且可解释的模块，不必为微小 AUROC 提升引入大模型。
- 部署前用冻结阈值跨时间/跨人群验证：推荐/广告模型在增量训练前先在下一时段数据上做 transport 检查，避免只看离线 AUC；对性别/年龄等分人群使用 Mondrian conformal 或分组校准修复覆盖率差异。
- 阈值公平性要在固定业务阈值下审计，而非只看全局 AUC；排序/推荐里对曝光阈值、推送文案的覆盖差异做 subgroup 召回/精确率检查，利用可解释模型的 shape function 编辑实现可审计修复。
你的检索器已经知道：面向RAG检索充分性的分布形状QPP
🧭 RAG检索充分性预测 · 分布形状QPP ★ 深度解读
Department of Mathematics, FNSPE CTU in Prague · Institute of Information Theory and Automation, Czech Academy of Sciences
24个分布形状特征2ms预测RAG检索充分性，AUROC 0.856超过LLM judge 0.649
📌 工作参考价值（4 点）
- 在电商/搜索推荐RAG链路中，可以用检索/召回分数向量的分布形状特征（top1-top2 gap、top-10 std、decay slope、bimodal gap、gap concentration等）构造轻量「检索充分性/置信度」模型，判断top-k是否含可回答结果；无需读商品内容或调用LLM，2ms级在线可自动触发query改写、扩大召回或直接生成答案。
- LLM judge不要单独做置信度，把其分数作为额外特征加入小分类器（Logistic/Ridge/MLP）形成hybrid：在安全关键/对抗query上AUROC更高（SÚJB adversarial-detection 0.954），且误答率从12–16%压到6–7%；若LLM推理已在链路中，这种as-feature组合比单独judge更值得用。
- 多领域/多站点迁移建议用lean特征子集：全量24特征LODO从0.856掉到0.706，而13特征S1-Lean（8分布+5query-surface）恢复到0.719并改善校准；跨域部署优先选lean子集而非全量模型。
- 对无答案/对抗query检测，分数分布形状尤其有效：unanswerable query的top-k分数分布平坦，S1在SÚJB对抗检测AUROC 0.934 vs MaxSim 0.489；可作为推荐系统防冷启动、防误导、防幻觉的置信度开关。
ORCH：用组织原则实现具身AI集体智能
🧭 多智能体组织设计 · 层级协作
Duke University, Department of Computer Science · Duke University, Department of Electrical and Computer Engineering · Duke University, Department of Mechanical Engineering and Materials Science
ORCH 将人类组织理论中的角色与层级协调引入具身多智能体，在50个异构智能体、25个野火任务上大幅超越四种基线框架
📌 工作参考价值（4 点）
- 在多 Agent 搜索/推荐 pipeline 中不要写死固定顺序；借鉴 ORCH 的 pooled + sequential 组合：多路召回、不同品类/人群画像等可并行子任务放入 pooled 组并发执行，召回→粗排→精排等有前置依赖的环节用 sequential 层级协调，降低整体时延。
- 用 LLM 自动生成任务特定的角色与层级，而不是手动设计固定多 Agent 拓扑；在复杂 query 或多目标广告投放中，可由 Planner 先分析意图与依赖关系，动态生成临时“角色-协调层级”，再分派给子 Agent。
- 层级组织适合长程任务：按“专门小组”封装并行子任务（选品、文案生成、关键词扩展、出价调整），用 coordinator 做阶段门控，在保持组内并发的同时控制阶段间有序切换，避免全局混乱。
- 性能不随 LLM 规模单调提升：工程上不必盲目上最大模型，可为不同子 Agent 分配不同规模模型，通过组织设计补偿个体能力，降低 token 成本与推理延迟。
py-kvcache：vLLM 外部 KV 缓存的 NVMe 性能表征
🧭 LLM 推理 · KV cache 卸载优化
Vrije Universiteit Amsterdam · IBM Research Zurich
刻画外部 KV 缓存加载与重算的权衡，提出异步直接 I/O、有界 staging、调度感知预取，80k tokens 磁盘加载比 LMCache 快 2 倍
📌 工作参考价值（3 点）
- 在长上下文 LLM 服务（如 Agent 多步推理、长 prompt 推荐解释）中开启外部 KV cache 前，先用生产 trace 做 break-even 分析：H100 等强 GPU 上短前缀重算可能比磁盘加载更快，外部缓存应作为按场景开启的准入策略，而非全局默认。
- 缓存层设计要关注传输粒度与调度时序，而非只盯 NVMe 带宽：连续块传输 + 异步直接 I/O 绕过页缓存，并限制共享 staging buffer，避免挤占 GPU/CPU 内存；请求排队时就启动预读，让磁盘 I/O 与 prefill 计算重叠，可显著降低 TTFT。
- 对多轮对话和前缀链不规则场景，py-kvcache 的调度感知预加载有明确收益；若业务里 prompt 前缀复用度高（如推荐 agent 的固定 system prompt、RAG 检索后的公共上下文），可以在 CPU/NVMe 层缓存 KV，但需评估前缀长度分布和 GPU 算力后决定。
RAG-Safety-Bench：检索增强 LLM 安全性的可靠评估
🧭 RAG 安全评估基准
University of Ottawa
提出 RAG-Safety-Bench 基准，用四种条件隔离 RAG 安全退化因素，发现护栏不保证 RAG 安全且良性文档也可能引发不安全生成
📌 工作参考价值（4 点）
- 在企业知识库接入 LLM/RAG 做客服、商品问答或营销文案时，不能只依赖模型自带安全护栏，需对检索文档做安全过滤、冲突检测和输出审核。
- 设计 RAG 评估时，可借鉴论文做法：将检索质量与生成安全性解耦，设置 oracle/相关/随机文档等条件，定位安全退化到底来自检索内容还是模型自身。
- 即使检索文档看似“安全/良性”（如产品描述、用户评价），也可能诱发不安全生成，因此需要额外的输出安全分类器或后处理规则，尤其在面向 C 端的生成式推荐场景。
- 模型选型时注意 trade-off：通用能力越强的开源模型可能越容易在 RAG 条件下被激活不安全能力，需要结合下游任务做安全性压测。
人工内驱：Agentic AI 的持久对齐与自适应控制
🧭 Agent 持久状态与对齐机制
Independent Researcher
提出 artificial id 机制，通过差分持久化涌现自适应行为控制，并指出跨任务持久对齐边界需求
📌 工作参考价值（4 点）
- 电商/广告 Agent（自动投放、动态定价、自动选品等）常跨多轮任务持续运行，可借鉴 differential persistence 思路：把策略的 continue/stop/change 决策与长期转化、留存、GMV 等持久指标绑定，而不是逐条轨迹单独优化，让有效行为自然涌现。
- 为跨会话 Agent 引入 persistent alignment boundary：显式分离可信观察（平台日志、审计数据）与模型生成状态，对状态来源、权威、身份和 provenance 做校验，防止一次错误推理被持久化并污染后续任务。
- 当前 LLM Agent 的重试、停止条件、验证等控制逻辑多为人工或 harness 写死，可尝试用一个轻量控制器做元层 continue/stop/change 决策，降低大模型调用成本，并在数据和环境漂移时自适应切换。
- 论文提醒：若仅按“是否更容易持久化”让 Agent 自我选择行为，可能学到刷单、作弊等非预期策略；需要在业务中约束“持久性”信号并审计，确保与真实业务目标对齐，不能只依赖 survival。
人类建造的最后一个AI：走向真正的递归自我改进
🧭 递归自我改进与Agent自治路线图
Shanghai Jiao Tong University · Theseus Labs · Tsinghua University · ByteDance · Shanghai AI Lab
提出递归自我改进的完整路线图与 Headroom-Closed Index，系统梳理从执行自治到元改进的演化路径
📌 工作参考价值（4 点）
- HCI（Headroom-Closed Index）可以作为衡量模型在特定任务上还有多少提升空间的诊断指标：在电商搜索/推荐场景中，可先用 HCI 评估当前 LLM 在 query 理解、意图改写、生成式推荐等任务中的能力天花板，避免在不值得投入的方向上做无谓的迭代。
- RSI 的自治等级框架可直接映射到推荐系统 Agent 的构建：先实现 improvement-execution autonomy（自动执行模型更新、策略调整），再逐步升级到 improvement-strategy autonomy（自动选择训练数据、loss 设计、超参搜索），最后尝试 experience-acquisition autonomy（自动从线上反馈中挖掘新经验）。
- 论文强调不同场景对 RSI 的要求和速度不同：电商推荐属于反馈信号密集、环境变化快的场景，更适合从经验获取自治切入；而生成式商品推荐（GenRec）需要结合 Semantic ID 生成与用户行为反馈，可借鉴 RSI 中环境适应自治的思路，让 Agent 自动调整生成策略以适配活动、季节等变化。
- 持续学习与元改进在推荐模型中的工程化落地：借鉴文中经验获取与递归元改进，可以在现有推荐模型迭代 pipeline 中加入自动化的数据选择、在线评估和策略回滚机制，减少人工调参，提升模型对新品类、新用户的适应速度。
RetroThinker：语音 LLM 的流式回顾推理框架
🧭 流式语音 LLM 自我修订推理优化
The University of Texas at Austin · FAIR, Meta Superintelligence Labs
通过 SFT+length-based DPO 让流式 SpeechLLM 自我修正 CoT，GSM8K 相近延迟下绝对准确率 +11%
📌 工作参考价值（4 点）
- 多阶段后训练组合可迁移：先 SFT 构造带显式“回顾/修订”痕迹的推理数据，再用 length-based DPO 优化早期推理修订，可用于训练对话式推荐 Agent 的推理链，让模型在用户输入过程中边听边想、自我纠错，降低最终响应延迟。
- 长度感知的 DPO 可控制推理 token 长度，避免 CoT 过长导致线上推荐/搜索 Agent 的 TTFT 恶化；在搜索推荐场景可把“延迟-准确率”作为显式偏好信号加入偏好优化。
- 流式自我验证与前向修正思路可迁移到实时多轮 Agent：当用户 query 尚未说完时启动候选解释/推荐理由生成，并在后续 token 流中动态修正，而非等完整输入后再推理，适合语音购物、实时广告文案生成等场景。
- 需要注意本工作基于语音 token 模型，与电商文本 Agent 不完全同构；可直接借鉴的是训练框架和偏好设计，而非模型架构。