Agentic University：协作多智能体实现个性化学习
🧭 多智能体协作个性化学习
Shanghai Jiao Tong University · Nanyang Technological University · National University of Singapore
提出人类参与的多智能体组织方法，让学习者与专门Agent协作维护可修订能力计划，实现连贯自适应学习
📌 工作参考价值（4 点）
- 借鉴“Capability Program”作为用户长期偏好/目标的显式表示，让用户参与目标设定与修订，将行为证据（点击、转化、反馈）作为驱动后续推荐策略的“学习证据”，形成目标-行为-评估闭环。
- 多智能体组织分工：将推荐链路拆分为目标对齐、候选生成、评估反思等专门 agent，通过组织化协调而非单一大模型调用，提升系统的可解释性和可控性；可参考其“人类参与”机制，让用户作为协作方而非被动对象。
- 分层评估与反馈闭环：引入分层评估（如短期满意度、长期能力提升）并利用评估结果触发策略修订，对应推荐系统中结合即时指标（CTR）与长期指标（用户留存、LTV）的动态调整。
- 工程实现上，Agent 间通过共享可修订文档（Capability Program）协调，类似用结构化状态文件协调多智能体，适合电商场景中多 agent 共同维护用户画像或推荐策略。
通过选择性审计实现可靠的 AI 辅助决策
🧭 在线决策监控 · 选择性人工审计
University of Toronto · Stanford University · University of California, Berkeley
提出在线选择性审计框架，在控制未审计 AI 错误比例低于阈值的同时最小化人工审计频率
📌 工作参考价值（4 点）
- 在电商/推荐场景中，AI 生成的商品描述、推荐理由或 Agent 操作常带有 confidence score；可借鉴该框架做选择性人工审核：设定业务可接受的未纠错比例 α，用在线阈值动态决定哪些 case 送审，减少全量审核。
- 算法无分布假设，对 i.i.d. 和对抗性流量都有理论保证，适合电商大促、恶意刷单等非平稳流量下的审核策略。
- 若系统由“生成 Agent + 校验 Agent”组成，可把校验分数作为 confidence score，接入该方法自动升级高风险决策；阈值无需重新训练，直接在线调整。
- 工程上可作为轻量级后处理模块：不改变原有模型，只需输出 score，与现有规则/模型融合成本低；实验表明在 LLM 有害请求过滤、数据标注等任务中能显著降低人工审核量。
用户自定权限策略能提升对 AI Agent 越权的防护吗？
🧭 Agent 权限控制与人机协作
用户预设 allow/ask/never 规则反而比逐动作审批和模型审查放过更多越权动作，主因是用户大量选 ask
📌 工作参考价值（4 点）
- 在电商/Agent 权限系统里，不要把“用户预设规则”当作自动降低越权风险的手段：用户倾向选 ask，把决策推回运行时，总干预成本未必下降。默认策略应更保守，例如高风险动作默认 never 或需主动开启 allow。
- 将 Agent 动作按后果类别（资金、隐私、不可逆操作等）映射为自然语言 allow/ask/never 规则，可以减少运行时 prompt 次数（18→10.9），但前提是规则设置成本可控。可提供预设安全策略模板，避免用户逐条从零配置。
- 越权动作大部分在用户批准后执行，说明仅靠“规则+人工确认”不够。批准界面应突出风险信号、变更摘要和不可逆提示，不能只列动作名称。
- 对自动下单、改价、群发消息等电商场景，建议把动作后果分级与实时风控结合：规则负责减少常规打断，风控/模型审查负责捕获异常越权，而不是依赖用户预设规则兜底。
知识综合评审框架：多源证据综合LLM系统的任务级基准测试
🧭 LLM证据综合任务级评测与路由
Toronto Metropolitan University · Queen's University · Stellenbosch University
提出KSR人机协同框架，将证据综合拆解为筛选、抽取、分析、综合四任务并基准测评与路由，无单一系统全任务领先
📌 工作参考价值（4 点）
- 将复杂智能流程拆解为可独立评测的子任务（筛选/抽取/分析/综合），再按任务挑选最优模型或系统路由，可迁移到电商平台的商品评论分析、竞品报告生成、广告素材合规筛查等多源文档处理场景。
- 建立人工标注金标并报告 inter-rater reliability（如 Kappa=0.80）作为 LLM 效果上限参考，同时做数据污染检查，可避免模型评测被训练集泄漏或过度拟合金标误导。
- 多源异构信息（电商评论、社媒、政策、行业报告）的综合分析中，采用任务路由而非单一模型端到端生成，能暴露单源视角的盲点，例如论文发现 worker well-being、small firms、Global South 等跨源不对称问题，对市场洞察和风险识别有参考价值。
- 在业务中构建 LLM 驱动的知识管理或研究助手时，可借鉴其 human-in-the-loop 治理思路：将专家验证嵌入每个任务节点，保持流程透明可审计，降低模型在推理分析类任务上的不可控输出风险。
RuleChef：用LLM生成可编辑规则以落地任务知识
🧭 LLM 规则生成与可解释AI
KR Labs · TU Wien
利用LLM从标注数据自动生成、迭代修补可执行规则，得到快速、可解释的符号系统
📌 工作参考价值（4 点）
- 离线LLM生成规则，在线轻量推理：在电商搜索/推荐中，可将LLM用于离线规则合成（如意图分类、属性提取），线上部署为确定性规则引擎，避免高延迟与API成本，适合高QPS场景。
- 规则迭代与人工反馈闭环：借鉴RuleChef的patch机制，将人工审核或业务专家反馈直接转化为规则补丁，持续优化文本处理逻辑，如query改写规则、违禁词过滤。
- 模型蒸馏为透明规则：利用已有模型（如BERT分类器）的输入输出对bootstrap规则，把黑盒模型知识转化为可解释、可审计的规则集，满足风控、合规等场景对可解释性的要求。
- 版本化与可调试的文本处理管道：规则集易于版本管理与调试，可配合A/B测试快速迭代，提升推荐系统中query理解、内容审核等模块的灵活性与可控性。
VideoKR：面向知识密集与推理密集型视频理解
🧭 多模态视频理解 · 知识密集推理
Zhejiang University · Tongji University · University of Chinese Academy of Sciences · Yale University
提出首个大规模知识密集视频推理训练语料 VideoKR，并证明数据设计是提升视频推理性能的关键
📌 工作参考价值（4 点）
- 数据设计驱动能力突破：VideoKR 证明，针对特定能力（如知识密集推理）构建高质量、多难度的训练数据，比简单扩大通用数据更有效。在电商推荐中，可针对性构建商品知识推理、用户意图深层理解等微调数据，提升模型复杂决策能力。
- 人类参与、技能导向的生成流水线：通过人工设计技能树、难易分级、思维链验证，确保数据可靠且覆盖渐进式推理能力。可借鉴其流程，为 Agent 规划、多轮对话等场景合成高质量 SFT 数据，减少幻觉并增强逻辑性。
- SFT→GRPO 训练范式：先监督微调再强化学习的二阶段训练，有效增强模型长期推理和自省能力。对于多智体协作、生成式推荐等任务，可用 RL 进一步对齐人类偏好或业务目标，提升策略质量。
- 避免评估捷径：VideoKR-Eval 的设计刻意防止模型利用文本线索或表面统计假依赖，这提示我们在评估推荐解释、对话系统时应设计对抗性评估，确保模型真正理解了语义和上下文，而非文本匹配。