AI

AI Papers Daily

每日 AI / 电商 / 推荐系统 / Agent 论文精选

首页 论文沉淀 检索 归档 分类 标签
S

Slinene

AI Engineer · LLM, RecSys & Agents

本页导航

    个人链接

    • 📄 个人简历 / 站点

    关于本站

    面向电商 / Agent / 生成式推荐方向的每日 AI 论文与行业动态精选, 侧重可落地到业务的信息。数据来自 arXiv、Hugging Face Daily Papers、 Hacker News、Reddit 及主流中文 AI 媒体。

      Quantizing Intent: Cross-Domain Semantic IDs from Organic Activity for Industrial Ranking

      量化意图:基于有机活动的跨域语义ID用于工业广告排序

      🧭 跨域语义ID · 行为活动丰富度 ★ 深度解读

      LinkedIn

      提出跨域用户语义ID和行为活动丰富度原则,利用有机Feed信号提升广告冷启动CTR达+1.522%,同时RQ-FSQ匹配密集AUC且存储缩小30~280倍

      📌 工作参考价值(4 点)
      • 行为活动丰富度选源原则:跨域特征优先选择编码近期行为信号(如浏览、互动序列)的源,而非静态画像文本。实验显示 Feed Activity 直接聚合行为比纯文本嵌入多 +0.177% AUC,可作为电商/广告系统选择外部特征源的直接指导。
      • RQ-FSQ 离散化通用方案:将预训练用户/商品嵌入离散化时,可结合残差 VQ 保留全局结构与单维标量量化保留细节,匹配甚至超过原始密集嵌入 AUC。这一方法适用于压缩 LLM 编码器输出,在存储受限的推荐服务中能直接复用,实现 30~280 倍压缩而不掉点。
      • HDE 模块即插即用:使用前缀 n-gram 哈希表对任意 K 级离散 ID 序列编码,支持多源独立查表与求和,插入现有 CTR 特征层无需修改骨干网络。该设计可直接迁移到电商排序模型的特征工程环节,降低多源离散特征集成成本。
      • 冷启动行为桥接:将非广告域(如内容浏览、社交互动)的丰富行为量化为语义 ID,作为排序模型的用户侧特征,可有效缓解新用户/稀疏用户信号不足,冷启动段 CTR 提升达 +1.522%,对电商 Push、新客推荐场景有直接借鉴意义。
      RecSys | 2026-05-31 | cs.IR | score 10/10
      Semantic IDsCross-DomainAds CTRResidual QuantizationCold StartRQ-FSQ

      On the Scaling of PEFT: Towards Million Personal Models of Trillion Parameters

      PEFT 的三轴缩放:万亿参数基础模型支撑百万持久个性化模型

      🧭 PEFT 缩放 · 个性化模型 · LoRA RL ★ 深度解读

      Mind Lab

      通过 Scale Up(强先验)、Scale Down(小型稳定适配器)与 Scale Out(适配器种群)三轴协同,让 LoRA 在万亿 MoE 上实现低成本、可持续的个性化 RL 更新与集体智能。

      📌 工作参考价值(4 点)
      • 用户级 LoRA 适配器:电商推荐或 Agent 系统可对每个用户或 Agent 实例维护一个 LoRA adapter,仅更新 <1% 参数即可捕获长期偏好、技能或工具使用习惯,成本远低于完整模型微调。
      • RL 训练的稳定初始化:在 RLHF 或 RLVR 场景中,极低秩 adapter (rank=1) 的初始化不能简单复用 SFT 下的 SVD 初始化,应使用控制初始更新幅度的 RL-native 方法(如 OLoRA-tail),避免策略漂移导致 KL 崩溃。
      • 多 Adapter 投票提升决策质量:当存在多个来自不同用户或 Agent 的 adapter 时,可借鉴论文中基于多样性的大数投票机制,聚合多个适配策略输出,在推理阶段获得集体智能收益(AIME24 准确率从单模型 36.4% 提升到 198 模型的 48.7%)。
      • 训练–推理一致性:大规模 MoE 部署个性化模型时,路由差异会导致训练策略与线上策略不一致,采用 Router Replay R3 等技术记录并回放路由决策,可保证 RL 更新的有效性。
      Training | 2026-05-31 | HF Daily | score 10/10
      LoRAPEFTScalingPersonalizationRLMoE

      SkillHarm: Lifecycle-Aware Skill-Based Attacks via Automated Construction

      SkillHarm:面向技能生命周期的 Agent 攻击基准与自动化构建

      🧭 Agent 技能安全 · 自动化攻击基准

      The Ohio State University · Amazon AGI · Stanford University

      首个覆盖技能使用生命周期的攻击基准,揭示固定与自变异投毒下 Agent 高达 86.3% 的攻击成功率

      📌 工作参考价值(4 点)
      • Agent 技能安全评估框架:若业务中使用第三方 Agent 技能(例如 MCP tools、自定义插件),可借鉴 SkillHarm 定义的 12 类风险(数据管线、系统环境、自主决策)和两种投毒场景(FPP/SMP),设计内部红队测试用例。
      • 自变异投毒(SMP)的低噪音特性:SMP 初始不触发恶意行为,在后续复用中才爆发,与电商推荐中长效特征污染攻击类似,可思考如何在模型更新、特征缓存下设计延迟投毒检测机制。
      • 自动化投毒样本生成管道:AutoSkillHarm 利用自然语言 harness 驱动 coding agent 批量构造攻击样本,可迁移到业务安全测试中,自动生成针对内部 Agent 流水线的变异攻击数据。
      • 失败模式提示防御盲区:论文发现攻击失败多因 Agent 未执行投毒文件而非真正抵抗力,启示工程防御需加强技能加载阶段的静态分析(如 manifest 检查、沙箱预执行),而非仅依赖运行时行为监控。
      Agent | 2026-05-31 | HF Daily | score 7/10
      Agent SecuritySkill PoisoningBenchmarkAttack TaxonomyAutomated Construction

      Joint Agent Memory and Exploration Learning via Novelty Signals

      通过新颖信号联合学习智能体记忆与探索

      🧭 智能体记忆与探索的联合学习 ★ 深度解读

      Tsinghua University · Sun Yat-sen University · Baidu Inc. · Tongji University · Peking University

      利用代码覆盖率等持久新颖信号,联合训练智能体潜在记忆与探索策略,显著提升探索效率并减少 token 消耗

      📌 工作参考价值(4 点)
      • 无监督的记忆训练信号:在 GUI 或可嵌入环境中,利用代码覆盖率、新状态发现等持久新奇信号作为内在奖励,为记忆模块提供无需人工标注的训练目标。这可以迁移到电商 App 自动化测试、Agent 探索冷启动等场景,用环境固有指标替代昂贵的人工反馈。
      • 轻量级历史压缩:使用一个冻结的视觉语言模型将每一步(观测,动作)压缩为一个向量 token,大幅减少长对话的 token 开销。在电商客服 Agent 或推荐对话系统中,可以类似地压缩多轮交互历史,避免上下文窗口膨胀,同时保持关键信息。
      • 自然课程式训练:随着会话进行,奖励自然变得稀疏,迫使策略学习更深层的探索行为。在构建 Agent 的训练环境时,可以设计类似“先易后难”的奖励衰减机制,无需手动设计课程。
      • 联合训练记忆与策略:将记忆压缩和对齐与策略梯度联合优化,避免解耦带来的次优解。对于需要记忆的推荐 Agent 或多智能体协作场景,可考虑将记忆模块的学习与任务目标直接对齐,而非单独训练或使用静态规则。
      Agent | 2026-05-31 | HF Daily | score 8/10
      Agent MemoryExplorationLatent MemoryNoveltyGUICode Coverage

      TVIR: Building Deep Research Agents Towards Text--Visual Interleaved Report Generation

      TVIR:面向文本-视觉交错报告生成的深度研究智能体

      🧭 深度研究智能体的多模态报告生成与评估 ★ 深度解读

      Nanjing University · Alibaba Group

      首个同时评估文本与视觉证据的多模态深度研究基准与多智能体框架,揭示现有系统重文字轻视觉的短板

      📌 工作参考价值(4 点)
      • 多模态报告生成可复用范式:TVIR-Agent 的“规划-视觉素材实例化-顺序写作-全局整理”四阶段流水线可直接用于电商市场分析报告、竞品追踪等长文生成,其中将视觉需求(检索图片、代码生成图表)显式纳入大纲规划的思路能显著提升图文一致性。
      • 视觉证据的可靠性检查:通过 Chart Generator 自动爬取数据、交叉验证并生成代码图表,保留数据源 URL,同时用 VQA 工具过滤低质量检索图片,这类机制可迁移到商品分析、库存预警等需要数据可视化且要求来源可追溯的业务场景。
      • 双路评估框架的启发:将评估分解为文本评估(引用支持、指令对齐、写作质量等)和视觉评估(图表质量、图文整合、源一致性)的范式,可复用来构建电商领域生成内容(如商品详情页、营销文章)的质量审查系统,重点检测装饰性 vs 证据性配图的差异。
      • 多智能体角色分工:Planner+Image Searcher+Chart Generator+Writer+Polisher 的松耦合设计,允许按需替换或升级单个组件,适合团队并行开发;针对电商 Agent,可将 Writer 替换为适配商品描述的风格模块,或将 Image Searcher 接入内部图库。
      Agent | 2026-05-31 | HF Daily | score 8/10
      Deep Research AgentsText-Visual Interleaved ReportMulti-Agent FrameworkMultimodal EvaluationVisual Evidence Grounding

      Absorbing Complexity: An Interaction-Native Knowledge Harness for Financial LLM Agents

      吸收复杂性:面向金融LLM代理的交互原生知识织带

      🧭 Agent 认知架构 · 持续记忆与治理 ★ 深度解读

      True Trading · Inc4.net

      交互原生知识织带通过被动注入、时序图记忆与写时失效,系统性吸收认知复杂性而非转嫁给用户。

      📌 工作参考价值(4 点)
      • 被动注入代替主动检索:在前端推理前,由系统根据事件自动注入领域知识到上下文缓冲,而不是让模型自己发起 wiki-walk 或 RAG 检索。这可直接用于电商客服或推荐 Agent,在用户问题到达时提前注入其历史偏好、订单状态、风险标签,降低推理延迟和 token 消耗。
      • 时序图 + 写时失效处理旧知识:市场条件变化后,旧知识不再可信。在推荐系统中,可利用类似机制在用户行为漂移或商品下架时主动失效记忆,避免注入过时偏好;工程上可用带时间戳的图边和矛盾检测实现自动失效。
      • 治理层根据行动风险控制知识准入:高风险行动(如下单、投资建议)只允许成熟度足够高的知识条目被注入。电商场景中可设计“发货承诺信息”仅当订单状态已确认时生效,防止模型基于未结清状态给出错误承诺。
      • 分离检索底图和审计视图:使用时序图做低延迟在线检索,同时维护可读的 wiki 页面用于人工审查与合规。推荐 Agent 可效仿:在线用向量图快速召回,离线维护可解释的用户画像页面供运营查验决策依据。
      Agent | 2026-05-31 | HF Daily | score 8/10
      Financial AgentsTemporal Knowledge GraphMemory ManagementInvalidationGovernanceInteractive-Native

      Economy of Minds: Emerging Multi-Agent Intelligence with Economic Interactions

      心智经济:通过经济交互涌现多智能体集体智能

      🧭 多智能体经济协作与自进化 ★ 深度解读

      Harvard · MIT · 2077AI · Kempner Institute

      仅用拍卖、交易和财富的经济信号就使一群受限智能体自组织、自进化,在多个任务上超越完整单一智能体。

      📌 工作参考价值(4 点)
      • 去中心化协调替代集中编排:在电商多Agent场景(如协商、客服、供应链)中,可借鉴拍卖选择动作 + 财富驱动的生存机制,避免中心协调器瓶颈,实现自组织协作,尤其适合流式任务。
      • 隐式信用分配:Bucket-brigade交易规则(获胜者向前一Agent支付出价)自动将价值反向传播,无需全局奖励分解或稠密过程奖励,适合难以定义子任务奖励的长链任务(如多步对话或推荐管线)。
      • 经济驱动的群体进化:用财富积累与破产作为自然选择压力,剥削成功Agent并通过突变传播其策略,探索则利用破产Agent的修正版本;这种方法可替代手工设计提示或架构,使Agent群体在持续任务流中自适应。
      • 鲁棒性与通用专家:实验表明增加一个全能Agent不会垄断市场,市场仍偏好局部精细的专业Agent,这为构建可扩展的多专业Agent生态提供了信心;可应用在生成式推荐中,让多个领域专家Agent通过经济信号竞争,避免单一模型退化。
      MultiAgent | 2026-05-31 | HF Daily | score 9/10
      Multi-Agent SystemsEconomic CoordinationLLM AgentsSelf-EvolutionCredit AssignmentDecentralized Intelligence

      Quality-Guided Semi-Supervised Learning for Medical Image Segmentation

      质量引导的半监督医学图像分割学习

      🧭 医学图像分割 · 半监督学习 · 质量评估

      School of Computing Science, Simon Fraser University, Canada

      用专用网络预测分割质量,通过合成腐败训练该预测器,并以质量感知正则化与伪标签重加权增强半监督分割

      📌 工作参考价值(4 点)
      • 训练辅助网络评估生成结果质量并用于样本加权,该思路可迁移到电商弱监督学习,例如对用户行为序列生成的伪标签进行可靠性评分。
      • 通过合成腐败(噪声、掩盖、变形)构造低质量数据训练质量预测器,类似方法可用于构建电商图像或文本描述的质量评估器。
      • 质量感知正则化损失:对低置信度区域施加平滑,可类比于推荐模型中对不确定性高的预测施加正则,防止过拟合噪声标签。
      • 即插即用的设计降低了集成成本,该思想可直接应用于现有半监督Agent或生成式推荐框架,快速引入质量感知机制。
      Other | 2026-05-31 | HF Daily | score 6/10
      semi-supervised learningimage segmentationquality estimationmedical imagingpseudo-label reweighting

      Agent Skills Should Go Beyond Text: The Case for Visual Skills

      超越文本的智能体技能:引入视觉先验实现可复用多模态技能

      🧭 Agent 多模态视觉技能复用 ★ 深度解读

      Peking University · University of Wisconsin · MIT-IBM Watson AI Lab

      指出纯文本技能在视觉任务中存在空间信息瓶颈,提出结合文本规则与视觉先验的可复用多模态技能范式 VISUALSKILL 及自动生成流水线 AutoVisualSkill。

      📌 工作参考价值(4 点)
      • GUI 自动化与电商平台操作:将常用控件的空间布局、点击区域等制作为静态视觉先验(如按钮模板、热区图),与文本规则绑定,可显著提升 Agent 在网页/App 上的定位精度,类似思路可用于商品页面自动化测试、数据采集。
      • 密集计数与货架管理:在库存盘点、货架商品计数等场景,采用动态视觉锚点将已计数对象做可视化标记并反馈给模型,形成外部空间工作记忆,有效减少重复计和漏计。
      • 可复用技能库构建:借鉴 VISUALSKILL 的分离式设计,将业务规则(文本)与视觉参考(截图、布局原型)打包为可检索、可组合的技能单元,降低对新模型的尺寸敏感度,方便技能跨任务迁移。
      • 自动技能生成流水线:AutoVisualSkill 的诊断门控和双轨生成方法可用于自动判断任务是否需要视觉支撑,并将少量示例转化为通用视觉协议,适合大规模构建面向电商运营、广告设计等视觉密集型任务的 Agent 技能库。
      Agent | 2026-05-30 | HF Daily | score 8/10
      Visual SkillsAgent SkillsMultimodal AgentsGUI GroundingTextual Bottleneck

      Critic-R: Improving Agentic Search using Instruction-tuned Retrievers with Natural Language Introspective Feedback

      Critic-R:用自然语言内省反馈改进代理搜索中的检索瓶颈

      🧭 Agentic Search · 推理时检索反馈优化 ★ 深度解读

      University of Massachusetts Amherst

      引入批评模型判断检索是否满足推理需求,结合推理时查询重写与无标注对比学习,显著提升多跳问答性能

      📌 工作参考价值(4 点)
      • 推理时检索质量修复:无需修改现有检索模型,仅引入一个独立的批评模型判断检索结果是否满足当前推理步骤,并基于不满足的反馈重写查询。在电商搜索或对话推荐中,当检索结果不相关或信息不足时,可直接使用此机制动态改进查询,提升最终答案准确性。
      • 无标注检索器微调:利用代理轨迹中的正例(被推理模型接受的文档)和硬负例(被拒绝的文档)构建对比学习数据,无需人工相关度标注。该方案可用于训练电商领域的稠密检索器,尤其适用于缺乏标注数据的场景,且能显著超越端到端联合训练的检索器。
      • 内省反馈作为关键监督信号:批评模型必须基于推理模型的思考过程(而非仅查询-文档对)来判断检索质量。在应用时,应保留推理链中的自然语言反馈,将其作为后续模型优化或数据筛选的重要输入,能大幅提升训练信号纯度。
      • 解耦判断与改进:将“检索引擎是否满足需求”的判断与“如何改进查询”分开为两个独立的提示步骤,可提高稳定性并避免不必要的外部调用。实现类似系统时可复用这种解耦设计,减少推理开销并提升灵活性。
      Agent | 2026-05-30 | cs.IR | score 9/10
      Agentic SearchCritic ModelInference-Time ScalingContrastive LearningRetrieval-Augmented GenerationMulti-Hop QA

      Trustworthy Recommendation in the Era of Large Language Models: Opportunities and Challenges

      大模型时代可信推荐:机遇与挑战综述

      🧭 LLM增强推荐的可信性综述 ★ 深度解读

      Zhejiang University · Leiden University · University of Science and Technology of China · National University of Singapore

      系统梳理LLM推荐在鲁棒性、公平性、可解释性等六维度的13项机遇与18项挑战,揭示其双刃剑效应

      📌 工作参考价值(4 点)
      • 冷启动与数据增强:可借鉴LLM生成合成交互(如ColdLLM、LLM-search)或提取语义嵌入(MoRec)来缓解新物品/新用户冷启动,电商上新时直接调用LLM生成高质量伪样本辅助训练。
      • 攻击防御策略:在Agent推荐系统中,警惕记忆污染攻击(如DrunkAgent);可部署LLM驱动的防御模块(如LoRec)做恶意用户检测,或利用语义一致性检测伪造文本(P-Scanner)。
      • 偏见缓解工程:微调推荐LLM会放大流行度偏见,可结合逆倾向加权(IPS)或DPO框架(如SPRec)做解耦训练;推理时通过随机打乱候选集多次生成并聚合结果(STELLA、RecRanker)缓解位置偏见。
      • 可解释性落地:利用LLM生成个性化自然语言解释直接提升用户信任(如Chat-REC),但需用人类反馈或奖励模型对齐;在评估阶段,可直接用LLM作为可解释质量的多维度自动评测器,降低人工成本。
      RecSys | 2026-05-30 | cs.IR | score 9/10
      LLMTrustworthy AIRecommender SystemsBiasExplainabilityRobustness

      MemGraphRAG: Memory-based Multi-Agent System for Graph Retrieval-Augmented Generation

      MemGraphRAG:基于记忆的多智能体图检索增强生成

      🧭 多智能体协同 · 图检索增强生成 ★ 深度解读

      Xiamen University · Jilin University

      用三层全局记忆与多智能体协同消除知识图谱构建中的局部噪声与冲突,实现高精度低延迟的图检索增强生成。

      📌 工作参考价值(4 点)
      • 知识图谱自动化清洗与一致化:电商商品知识图谱常因多渠道爬取导致属性冲突(如价格、规格矛盾),可借鉴记忆层冲突检测‑证据比对‑裁决的多 Agent 闭环,自动合并冗余、修正错误三元组。
      • 全局主题过滤防止无关抽取:在构建推荐或问答用知识图谱时,设定 Schema 频率阈值过滤低频噪音,避免局部抽取引入偏离主商品类目的 off‑topic 事实,提升图谱信噪比。
      • 结构感知的检索初始化:处理包含海量类目节点的商品图谱时,对高连通度的“类目”节点使用 log‑degree 惩罚初始化,防止 PPR 传播时重要性被泛化节点稀释,确保多跳推理聚焦于具体商品实体。
      • 分层记忆检索范式:在生成式推荐或对话中,可按本体 → 事实 → 文本段落逐层召回、过滤,先匹配类目与属性范式再定位具体商品与评论文本,兼顾粗粒度的语义约束与细粒度的证据支撑。
      MultiAgent | 2026-05-30 | cs.IR | score 8/10
      GraphRAGMulti-AgentKnowledge GraphMemoryRetrieval-Augmented Generation

      SkillAdaptor: Self-Adapting Skills for LLM Agents from Trajectories

      SkillAdaptor: 基于执行轨迹的步骤级技能自我适应框架

      🧭 Agent技能自我适应 · 步骤级归因 ★ 深度解读

      Zhejiang University · Ant Digital Technologies, Ant Group · Zhejiang University - Ant Group Joint Laboratory of Knowledge Graph

      提出训练免的步骤级失败归因与技能更新方法,在长程交互任务中稳定提升LLM Agent成功率。

      📌 工作参考价值(4 点)
      • 细粒度故障定位与定向修复:在业务中的多步 Agent(如客服导购、多工具编排)中,可借鉴 Localizer → Linker → Modifier 流水线,将失败归因到具体步骤和使用的技能片段,只修订或生成最小化改动,避免全轨迹更新带来的不稳定和过度泛化,提升迭代效率。
      • 资格验证门控防止技能退化:Qualifier 模块通过重执行对比,仅当候选技能带来非负增益时才更新技能库,类似主动增量学习中的回测机制,可直接迁移到线上技能的自动化迭代中,防止错误技能污染下游任务。
      • 技能冗余控制与早期停止:通过语义相似度阈值(θdup=0.95)过滤重复技能,并在技能库连续多变无效时提前停止迭代,减少了技能膨胀和计算开销,适合需要长期维护技能库的电商 Agent 系统。
      • OpenClaw 类框架的插件式集成:方法设计为可插拔的适配器,可在不改变骨干模型和运行环境的前提下嵌入现有 Agent 框架,对已有产线改造代价小,适合在已有智能体底座上快速试验技能自适应能力。
      Agent | 2026-05-30 | HF Daily | score 9/10
      Skill AdaptationStep-level AttributionLLM AgentsTraining-freeFailure Localization

      Trust Functions: Near-Lossless Weak-to-Strong Generalization by Learning When to Trust the Weak Teacher

      通过学习何时信任弱教师实现近乎无损的弱到强泛化

      🧭 弱到强泛化 · 数据选择 ★ 深度解读

      Johns Hopkins University

      提出神经信任函数,从教师内部表示预测弱标签正确性以过滤噪声,实现匹配甚至超越真值训练的弱监督泛化,并可通过迭代链滚雪球式提强。

      📌 工作参考价值(4 点)
      • 弱标签质量过滤:当业务中只有弱监督(如用户点击、规则伪标签)时,可训练一个小型神经网络,从强模型的隐层表示预测标签正确性,仅用高信任度样本训练主模型,大幅减少噪声。
      • 隐式课程学习:信任函数倾向选择简单样本,形成从易到难的自然课程,有助于大模型稳定训练,可直接用于冷启动或样本不均衡场景。
      • 迭代自我提升:将当前模型作为下一轮的“教师”,用信任函数筛选其输出作为新训练数据,逐步提升模型能力,类似自训练,但过滤机制能防止错误累积,适合在标注稀缺时扩增高质量训练集。
      • 风险控制的数据选择:提供基于霍夫丁上界的阈值校准方法,只需少量标注数据即可自动确定高纯度子集,避免人工调参,适合自动化数据生产 pipeline。
      Training | 2026-05-30 | HF Daily | score 8/10
      weak-to-strong generalizationtrust functionsdata selectionLLM supervisionsnowballing chain

      Trust Region On-Policy Distillation

      信任区域在线策略蒸馏

      🧭 在线策略蒸馏稳定化训练 ★ 深度解读

      Samsung Research, Beijing, China · University of Oxford · Peking University

      通过信任区域划分、异常值前向KL估计和离线指导,解决在线策略蒸馏中分布不匹配导致的训练不稳定问题,显著提升小推理模型性能。

      📌 工作参考价值(5 点)
      • 面向电商/推荐/Agent 从业者的可借鉴点:
      • 信任区域思想可迁移至多智体策略更新:仅在教师与学生策略一致性高的区域执行在线策略蒸馏,避免极端策略梯度导致的训练崩溃,类似推荐系统中用置信度过滤不可靠的在线信号。
      • 离线指导(Off-Policy Guidance)机制可借鉴:用教师前缀引导学生生成,并用前向KL模仿学习,适合在推荐对话或Agent任务中利用高质量模板引导小模型探索有效路径。
      • 异常值前向KL估计提供了一种廉价的信息保留方式:当教师-学生分布严重不匹配时,用top-k前向KL替代完全丢弃或裁剪,可在电商搜索query改写等场景中保留多样性信号。
      • 混合目标设计与资源权衡:TrOPD同时使用K1估计器(O(n)内存)和top-k前向KL(O(nk)内存),为生成式推荐中的长序列推理蒸馏提供了内存可控的参考,尤其在序列推荐或文案生成等需要长输出的场景下。
      Training | 2026-05-30 | HF Daily | score 8/10
      On-Policy DistillationTrust RegionKnowledge DistillationSmall Reasoning ModelsKL DivergencePolicy Gradient
    123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330
    Powered by Astro & DeepSeek