低精度RL中方向感知的Learner-Sampler失配稳定化（TRIAGE）
🧭 低精度 RL 训练稳定性 ★ 深度解读
InfiX.ai · NVIDIA
提出TRIAGE，通过方向感知门控与修复稳定NVFP4强化学习，实现近BF16性能与2.3倍rollout吞吐
📌 工作参考价值（4 点）
- 在生成式推荐/Agent RL 中采用低精度（FP8/NVFP4）加速 rollout 时，不要只按 importance ratio 的 magnitude 做 TIS，应结合 advantage sign 和 learner-sampler gap 的符号，选择性抑制会放大 mismatch 的更新方向（A<0 & δ<0）。
- 用 segment 级（如 64 tokens）而非 response 级或 token 级统计来诊断训练-推理不一致，能更早发现局部风险，避免全局均值掩盖崩溃前兆。
- TRIAGE 的 bounded repair 设计可借鉴：只在 positive advantage responses 上施加 pseudo-Huber penalty，使修复项与 reward 方向一致，不与 policy gradient 对抗。
- 保留 native 低精度前向，仅修改 loss/优化目标，可兼顾吞吐与稳定性，适合大规模线上 RL 训练。
Gated DeltaNet 为何能承受 4-bit 量化：混合 27B LLM 循环部分的 NVFP4 W4A4
🧭 混合 LLM 循环层 4-bit 量化推理优化
Minima AI
对 Qwen3.8-27B 全部 496 个线性层（含 GDN）做 NVFP4 W4A4，精度持平 BF16 且更小更快
📌 工作参考价值（4 点）
- 混合架构中 linear-attention/循环层（Gated DeltaNet）可以激进 W4A4，不必保留 8/16-bit；尤其对 decay/write-strength 门控投影，softplus/exponential 和 sigmoid 会压缩 GEMM 误差，量化敏感度低。
- 部署 NVFP4 时若按模块逐层校准，需注意 kernel fusion 后的 global scale 不匹配问题：应统一重算或修正 fused GEMM 的 scale，否则精度会显著下降。
- 长上下文场景可以把 KV cache 用 FP8 存并校准 scale，几乎无性能损失，能恢复约 83% 的长上下文 KV 惩罚；这是低成本优化长文本推理的有效手段。
- 16-element block scaling 能有效控制残差流中的极端 outlier，对电商/Agent 场景下需要低比特推理的混合 LLM 是一条可复用的工程路径。
面向竞赛编程金牌表现的后训练语言模型
🧭 LLM 后训练 + 测试时扩展 ★ 深度解读
NVIDIA
端到端后训练+GenCorrect 迭代测试时计算，IOI 2026 得分 535.4 超人类冠军
📌 工作参考价值（4 点）
- 强 teacher 蒸馏 + 难例/自修正 trace 更划算：用大模型为 hard query、长尾 item 或复杂 Agent 任务生成推理与自我修正轨迹，SFT 能带来大部分单次推理提升；预算有限时优先 SFT，RL 作为补充，且不要只用 terminal binary reward，可引入过程奖励或分步反馈。
- GenCorrect 式反馈闭环适合 query 推荐 / 文案生成：并行采样 100-200 条候选，用 token-shingle/embedding 聚类选 10 个多样性代表，再通过 offline/online evaluator 获取分目标得分，维护累计最佳指标并回填 prompt。适合 API/submission 预算受限、需要多样性覆盖的场景。
- 测试时扩展比继续训练模型更有效：论文中 5 轮 GenCorrect 带来 +107~158 分，远超 RL 的个位数百分点。电商搜索结果页、广告文案或推荐解释可先生成大量候选，再用执行反馈或用户信号筛选，而不是一味增大模型规模。
- NVFP4 + MTP 的吞吐-质量权衡可复用：在固定 inference 窗口内，FP8 KV cache + 关闭 prefix caching + MTP=5 使吞吐 3.7x，质量仅小幅下降。若 Agent 需秒级生成大量候选（如自动出价理由、推荐解释），可先做量化/投机解码保吞吐，再用采样多样性补质量。
QUASAR：通过损失感知重建降低量化感知训练的损失下界
🧭 量化感知训练 · 损失感知重建 ★ 深度解读
Cornell University · Together AI
将损失感知重建引入 QAT 训练循环，用 Adam 二阶矩做 saliency 进行尺度搜索和加权最小二乘拟合，压低低比特模型 loss floor
📌 工作参考价值（4 点）
- 低比特部署 LLM 时，若线上沿用 PTQ 掉点明显，可切换到 QUASAR 式 QAT：保持 weight-only 量化，不增加推理 overhead，训练开销仅 +1.4%。对需要长期稳定低延迟的推荐/Agent 推理服务有直接落地价值。
- 可直接复用两个 trick：用 AdamW 的 second moment \(v_t\) 作为权重的 saliency 估计，无需额外 Hessian 计算/存储；每步在 [0.3,1.0] 范围内搜索裁剪因子，并对反量化 scale/zero-point 做 saliency 加权最小二乘闭式求解，插入现有训练循环成本极低。
- 在 2-bit 这类极端低精度下，QAT 对数学推理和长链 Agent 任务质量影响显著；QUASAR 直接低比特 SFT 平均数学基准比最强 baseline 高 10.9 点，且是唯一在 HMMT'25 上非零的方法，说明保住长生成能力很关键。
- 该方法兼容 NVFP4 等生产格式，可把同样思路迁移到 MXFP4 或自定义 block-scaled 格式；迁移时只需调整候选 scale 与网格约束，核心目标不变。
Nemotron 3 Ultra：面向 Agent 推理的 550B 混合专家 Mamba-Attention 开源模型
🧭 Agent 专用大模型 · 混合 Mamba-Attention MoE ★ 深度解读
NVIDIA
总参数 550B、活跃 55B 的混合 Mamba-Attention MoE 模型，在 Agent 推理上精度对齐且推理吞吐量最高达同规模模型的 5.9 倍
📌 工作参考价值（4 点）
- 长上下文高效推理架构可迁移到推荐 Agent 中：Hybrid Mamba‑Attention + MoE 大幅降低 KV cache 与注意力成本，适合需要维持超长对话历史或文档上下文的推荐/搜索 Agent；可在电商客服、导购助手等场景落地类似模式，平衡推理延迟与能力。
- Multi‑Token Prediction 头可直接加速自回归生成：训练时加入共享权重的 MTP 头，上线后通过投机解码（speculative decoding）提升吞吐，对需要高并发生成回复的推荐理由、搜索词改写等场景有直接工程价值。
- 后训练中的多教师 On‑Policy 蒸馏（MOPD）可借鉴到工业 Agent 对齐：用领域专家 teacher 在 student 的 rollouts 上进行 token 级蒸馏，能在保持推理效率的同时注入多任务 Agent 能力（如工具使用、纠错），适合业务定制化 Agent 构建。
- 推理预算控制（reasoning effort control）可用于动态服务质量调节：允许在推理时根据负载动态调整思考深度，平衡效果与成本，可应用于推荐 Agent 的实时适配。
Mix-Quant：面向Agent LLM的量化预填充与精确解码
🧭 Agent推理优化 · 阶段感知量化 ★ 深度解读
National University of Singapore
提出阶段感知量化框架，预填充用NVFP4加速，解码保持BF16精度，在Agent任务上几乎无损且预填充加速达3倍。
📌 工作参考价值（4 点）
- 对于交互多轮、上下文不断增长的Agent工作流，解码阶段对数值误差更敏感，可直接对预填充进行低精度量化（如NVFP4）而保持解码高精度，避免长轨迹中的误差累积。
- 可借助预填充-解码分离架构，将低精度预填充worker和高精度解码worker独立部署，既不引入额外的精度切换开销，又能充分利用硬件加速（如Blackwell的FP4 Tensor Core）。
- 在输入token远多于输出的场景（工具调用、记忆检索、代码生成等），预填充成为瓶颈，利用W4A4量化可显著降低计算量，收益明显。
- 量化的收益并非均匀分布在所有阶段：预填充因并行处理长上下文而适合激进量化，解码因自回归特性需保持精度，按阶段定制量化策略是简单有效的手段。