EmbeddingGemma 2:统一高效多模态表征模型
🧭 多模态统一 embedding · 蒸馏与对比学习 ★ 深度解读
Google DeepMind · Google
744M 多模态 embedding 模型,以多阶段课程训练在文本/视觉/音频基准上达到新 Pareto 前沿,支持量化与截断部署
📌 工作参考价值(4 点)
- 统一商品多模态表示:图/文/视频/音频 natively 编码,适合电商搜索/推荐中的跨模态召回(如图搜商品、视频理解),避免先 ASR/OCR 再文本 embedding 的管线损失。
- 训练 recipe:先纯文本预微调(蒸馏)再多模态预微调(蒸馏),最后用对比 + spread-out + MRL 微调;加入 same-tower negatives 和 Plackett-Luce listwise loss,有利于排序/检索任务。
- 工程部署:用可调 vision token budget(70-1120)和 MRL 截断维度(768/512/256/128)做资源-质量 trade-off;QAT 后 int4 量化在手机上 <600MB,可在端侧实时出 embedding。
- 消融结论:多模态任务上 trainable vision encoder 比 frozen 大幅提升(MMEB-v2 52.27 vs 48.18);native audio 比 ASR 提升 MSEB 69.54 vs 57.59,建议直接编码原始音频而非转写。
DIAL:蒸馏指令遵循等级的可操控语言模型
🧭 语言模型细粒度指令遵循控制
School of Computing, National University of Singapore, Singapore · Singapore-MIT Alliance for Research and Technology Centre, Singapore · CSAIL, Massachusetts Institute of Technology, USA · School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore
轻量steering adapter+CFG蒸馏实现LLM指令遵循程度细粒度控制,并保持高吞吐与跨指令泛化
📌 工作参考价值(4 点)
- 在电商导购/客服 LLM 中,可用 DIAL 式的 steering adapter 对“回复长度/促销语气/品牌人设”做连续数值控制,避免仅靠 prompt 导致过短或过啰嗦;同一 base LLM 可部署多档风格服务不同场景,例如售前简短答疑与售后详细说明。
- 对 Agent 工具调用、商品属性抽取等可验证约束,可借鉴其“结合 prompting 提升 verifiable instruction following”:把价格、材质、适用人群等作为 verifiable 约束,在生成时动态加强遵守,降低后校验和拒识成本。
- 共享 text-conditioned classifier 的设计使得新增指令/风格无需重新拟合 adapter,便于在推荐文案、搜索广告标题、push 文案等多任务上用一个模型快速扩展;离线训练只需 instruction+request 文本,省去大量标注 response。
- 其 closed-form steering edit 推理开销极小,吞吐保持 96–99%,适合推荐/搜索/广告在线高 QPS 场景;可在流量侧按用户特征或场景动态选择 adherence level,实现个性化响应风格。
什么造就好的去掩码策略?扩散语言模型学习式去掩码的受控研究
🧭 扩散语言模型高效解码策略
NTU Singapore · Institute for Advanced Intelligence and Computing (IAIC), A*STAR · Centre for Frontier AI Research (CFAR), A*STAR
系统解耦学习式去掩码策略,提出轨迹收缩目标,856K参数策略在LLaDA-8B上取得最优精度-效率前沿
📌 工作参考价值(4 点)
- 若在搜索补全、推荐理由生成、query 改写等场景尝试 diffusion LM 或并行解码,可用「轨迹收缩目标」替代“与最终输出一致”作监督:只监督不会导致后续偏离参考轨迹的 commit,避免低 NFE 下过度激进解码。
- 策略输入不要只用 hidden states 或只用 confidence;二者结合的小型策略(856K 参数)即可达到最优前沿,且约 10% NFE 下降就能抵消 policy 开销,适合实时推荐/搜索的低延迟约束。
- 把解码过程视为 teacher,蒸馏出轻量 unmasking policy,能显著提升吞吐;在自回归 LLM 为主的生产环境中,若未来引入 diffusion LM 生成结构化输出,可复用这套精度-NFE frontier 和 throughput 评估方式选型。
- 该策略在 LLaDA-8B 上训练后基本迁移到 Dream-7B-Instruct,说明轻量 policy 有一定跨模型泛化性,可作为多模型共用的推理加速组件。
ECHO:蒸馏引导的高效级联超长序列建模
🧭 长序列用户行为建模 · 蒸馏级联检索 ★ 深度解读
Kuaishou Technology
蒸馏引导的用户级选择+目标感知检索,将100K长序列压缩至10K原始记录,在线计算量降160倍且GAUC提升
📌 工作参考价值(4 点)
- 用户级选择器离线写、在线只读固定K条记录:将100K原始历史压缩为10K原始事件记录,在线排序只对K条做目标感知检索,完全解耦在线计算与原始序列长度。适合电商/广告场景下用户长期行为超长、多候选排序的工程落地。
- 蒸馏监督替代简单的最近截断:用全历史教师的目标感知打分做软分布蒸馏,再加边界排序辅助损失,让选择器在用户级就保留目标相关的历史。可直接借鉴到召回/精排的长期行为筛选,尤其对长尾兴趣和稀疏反馈更友好。
- 教师、检索器、目标注意力共享Q/K参数:保证粗选和精排的相关性度量一致,避免两阶段不一致导致的召回损失。工程实现上可用 key-side projection absorption 省去历史向量投影缓存。
- 紧凑记录编码降低存储成本:按字段宽度打包而不是统一int64,100亿用户规模下可节省数百TB存储。对大规模推荐系统的用户行为存储设计有直接参考价值。
CommerceGen-Studio:电商 SKU 主图端到端生成框架
🧭 多模态电商主图生成 · Agent+RL+蒸馏 ★ 深度解读
Alibaba Group · Taobao App · AI-Native Applications Group
三段式 SKU 主图生成框架:PERL-Agent 提炼卖点、Layout Thinker 优化布局、SKU-DiT 多条件保真生成,已支撑每日百万级生产
📌 工作参考价值(4 点)
- PERL-Agent 的闭环提炼模式可直接迁移到电商文案/标题/搜索词生成:用 VLM+LLM 四角色(生成-评判-归因-改写)处理多源元数据冲突,六维 reference-free rubric 优化最差维度而非均值,支持按失败维度单点修改 prompt 并回滚到历史好版本。业务上可避免按类目写规则,也能定位 bad case 根因。
- Layout Thinker Optimization 的做法值得 Agent 系统借鉴:在结构化 TextList 和最终生成器之间插入显式布局改写层,SFT 后做双域 GRPO——文本奖励直接评 caption,图像奖励冻结下游 SKU-DiT 渲染后评图,每次只激活一个奖励域避免梯度冲突。这样能缩小上游语义和下游生成之间的 gap,而不是让生成器自己隐式规划。
- RDR 训练策略对模型加速很有参考价值:先 RL 对齐偏好,再用 DMD2 变体做少步蒸馏(靠近干净端点随机停止、商标域 3:1 混合、对抗训练),最后对少步学生再做一轮 RL 恢复高频细节。注意 RL 阶段用 LoRA 限制更新范围,防止奖励优化把底座能力带偏。
- 多条件输入设计可复用于电商 AIGC 管线:白底商品图 + 商标 crop + 结构化布局 caption 联合输入,把主体保真、logo 完整性、文字准确度显式拆成条件,并在 reward 中加入 OCR penalty,比单一 prompt 更能满足可发布要求。
UltraBERT: 突破 BERT 预训练性能极限
🧭 双向编码器预训练优化
Korea University · AIGEN Sciences · Amazon
提出双头掩码率预训练策略,首次同时达到分类与检索 SOTA
📌 工作参考价值(4 点)
- 在电商搜索/推荐中,文本编码器常用于 query 理解、商品标题分类、相关性计算。可借鉴双头策略:一个 encoder 同时输出分类友好的低掩码率表示和检索友好的高掩码率表示,用不同 LM head 解耦任务冲突,避免多模型部署成本。
- 预训练算力投入有边际递减:超过几万亿 token 后 encoder 在下游任务饱和,业务侧做 domain-adaptive pretraining 时不必盲目扩大数据,应把资源转向任务适配或蒸馏。
- 蒸馏和剪枝要谨慎与掩码率搭配:低掩码率下蒸馏可提升分类但高掩码率下损害检索;如果业务中既要分类又要检索,蒸馏目标应只绑定低掩码率分支,避免损害检索表征。
- 实现上,可在同一个 batch 内混入不同掩码率样本,共用 backbone,减少工程复杂度。
散度选择控制蒸馏中的熵变化
🧭 LLM 蒸馏目标的熵效应
Stanford University
证明 forward KL 抬高学生熵、reverse KL 压低熵,散度成为隐式熵正则器
📌 工作参考价值(4 点)
- 蒸馏生成式推荐或 query 生成模型时,按输出分布需求选散度:forward KL 会抬高学生熵,适合增加候选多样性/探索性;reverse KL 压低熵,适合需要集中、高置信输出的广告文案、push 文案等场景,但需注意 student-teacher 差距过大时 reverse KL 会欠拟合。
- on-policy 蒸馏中低熵主要来自 token-level reverse KL,而非 on-policy 采样本身;如果 RL/on-policy 训练后模型行为过于 deterministic,可以直接调整 token 级散度损失,而不必改动采样数据策略。
- 使用 interpolated KL 时,训练早期熵变化平滑、收敛时突变;可在训练中监控熵曲线,在收敛前设置早停或动态温度,避免熵崩溃损伤生成多样性。
- self-distillation 中 teacher 拥有特权特征会降低 student 熵,此时应调节散度超参或 softmax 温度做补偿;在电商 teacher-student 迁移中,student 无法使用用户实时行为等特权信息时,可提高 forward KL 权重或降低温度以保持输出多样性。
扩展与蒸馏文本嵌入以提升扩散语言模型适用性
🧭 扩散语言模型 · 文本嵌入蒸馏
University of Michigan
通过扩展嵌入模型并用解码概率软标签蒸馏,使连续扩散语言模型生成有效文本,Gen PPL 17.8 优于 GPT-2-M
📌 工作参考价值(4 点)
- 在生成式推荐或 Semantic ID 场景中,若用扩散模型生成 item/query 嵌入,不要直接使用过度判别的预训练编码器;可借鉴“教师解码概率作为软标签”的蒸馏方式,使相近候选嵌入更聚拢,提升解码有效性和生成质量。
- 对 query 推荐/改写、push 文案生成等文本生成任务,可在训练连续扩散 LM 时加入 embedding 蒸馏阶段,让潜在空间更连通,减少无效输出(如解码到不存在的 token 或语义 ID)。
- 评估生成式模型时,除 PPL 外可引入“生成熵 vs. Gen. PPL”曲线,判断模型能否在真实文本熵水平下保持低困惑度,作为业务中生成质量的上线 benchmark。
- 这种先缩放再蒸馏的思路也可迁移到多模态或商品图文表示:用更大 teacher 的 soft targets 蒸馏轻量 embedding,提升下游扩散/生成模型的稳定性。
当用户改变主意:LLM Agent 的意图漂移测量与修复
🧭 Agent 意图状态维护与多轮任务评测 ★ 深度解读
HKUST · CUHK · LIGHTSPEED
构建可控意图漂移基准 INTENTFLUX,提出显式状态折叠 StateForge 显著修复多轮任务性能下降
📌 工作参考价值(4 点)
- 多轮购物/搜索助手场景:用户会持续改条件(价格、品牌、词槽)或撤回约束,直接拼历史容易让已撤销的筛选条件污染推荐结果。可在生成前用一个轻量 tracker 维护“当前有效意图状态”,对每个条件做 ADD/DELETE/REPLACE,且同时删除依赖该条件的推导结论(如“预算升高导致推荐高端品”),再输入生成模型。
- 工程上不必用主力大模型做状态追踪:9B tracker 已与 122B 无统计差异;2B tracker 经 on-policy distillation 能从 0.266 提到 0.445。在电商 Agent 架构中可以把意图状态维护拆成小参数模块,降低成本与延迟。
- 评测/回归验证时,务必避免在收尾轮次重述最终意图,否则会掩盖 drift 缺陷;可借鉴 clean vs drift 配对、CAR/IDG 指标,以及长度匹配无漂移对照,逼出真实的多轮意图追踪能力。
- 压缩/摘要式 history management(滚动摘要、两阶段压缩)对意图漂移不可靠;如果业务中有多轮查询改写/约束增删,应优先考虑显式状态折叠,而不是依赖通用 long-context 或摘要。
有品位的智能体:长时程任务中决策品味的测量与提升
🧭 长时程智能体决策品味测量与蒸馏 ★ 深度解读
City University of Hong Kong · Microsoft
构建 Taste-Bench 从真实 agent 轨迹自动挖掘决策分叉,度量并蒸馏长时程决策品味
📌 工作参考价值(4 点)
- 可在电商/广告/Agent 场景中复用「决策分叉」挖掘思路:从线上 A/B 轨迹或 agent 自我纠错日志自动构造偏好对,无需人工标注,为选品策略、召回方案、创意方向等中间决策建立 taste 评估集。
- 蒸馏时用「见过正确分支的 teacher 生成推理链、student 只看到分叉前上下文」的 privileged-context 方法,适合把历史成功/失败路径的 hindsight 迁移成轻量 advisor 模型,对 query 改写、商品筛选、广告投放策略等长流程决策提供实时建议。
- 两选项判断任务(如新旧策略对比、生成式候选筛选)建议采用正反序两次回答均正确才算对的评分,缓解 LLM 位置偏置;工程实现上可直接借鉴。
- 将 advisor 判断注入 executor 上下文能显著提升端到端成功率(论文中正确建议 +24.4pp、蒸馏学生 +19.1pp),可在推荐 agent 工作流中对关键 fork 注入模型建议。
WorldCrafter:具备隐式 3D 感知记忆的一致视频世界模型
🧭 视频世界模型 · 3D 记忆
ARC Lab, Tencent IEG · Peking University
用相机可查询的隐式 3D 记忆压缩多视角证据,实现长时域一致的视频世界探索
📌 工作参考价值(4 点)
- 固定 token budget 的记忆压缩思想可直接借鉴到用户长期行为建模:将多源行为序列压缩成固定数量的 target-conditioned tokens,避免长序列直接进模型带来的 KV cache 和计算压力。
- pose-conditioned readout 可类比为“场景/意图条件下的记忆读取”,在推荐或 Agent 中可按当前上下文动态选择历史信息,提升长期依赖建模。
- few-step distillation 用于加速生成过程,对生成式推荐或文案生成模型的推理加速有参考价值。
- 整体仍是视频世界模型方向,与电商/推荐业务直接关联较弱,主要是工程方法上的通用借鉴。
重新审视完整推理轨迹在后训练中的作用
🧭 LLM 推理后训练 · 轨迹截断
NAVER AI Lab
完整推理轨迹对SFT收益有限,仅用端点训练更高效且可迁移到RL和蒸馏
📌 工作参考价值(4 点)
- 在训练 LLM 生成推荐理由、商品卖点、搜索 query 改写等推理链时,可只保留结论或关键步骤,不必收集完整思维链;中间冗余 token 会分散学习,截断后模型可借助内部知识补齐缺失步骤。
- 使用端点(如最终答案/推荐结果)作为 SFT 目标,能提高样本利用效率,降低 token 长度与训练成本,尤其适合大规模商品语料和长推理场景。
- 对基于 RL 或 on-policy distillation 的 Agent 策略优化,可考虑用部分轨迹或关键状态对替代全轨迹,减少冗余更新和奖励 hacking,保持推理行为稳定。
- 在构建电商问答/搜索推荐 Agent 的训练数据时,优先定义任务端点和关键中间约束,而非依赖完整长文本;该发现支持用更简洁的监督信号。
量化感知修复:恢复压缩4位大模型的实用方法
🧭 LLM 压缩量化与蒸馏修复
Multiverse Computing
提出 Quantization-Aware Healing (QAH),从原始未压缩模型直接蒸馏到4-bit量化学生,比 QAT 更快更稳,并开源 Hypernova-60B
📌 工作参考价值(4 点)
- 部署压缩大模型时,直接采用 QAH 蒸馏代替传统 QAT 恢复流程:在结构压缩+量化后,从原始未压缩模型蒸馏到量化学生,而非从 bfloat16 压缩中间模型蒸馏或 QAT 重训,可显著加速收敛(约7倍)并避免峰值后崩溃,减少手动早停的调参成本。
- 适用于电商/Agent 中需要低成本 LLM 推理的场景:例如用压缩量化后的 LLM 做 query 推荐、对话生成或商品文案,QAH 能保持与更大模型相近的质量,同时降低 4 倍权重内存和一半参数量,适合线上部署。
- 注意分布式训练后端对质量的影响:工程实现时需固定并验证后端(如 PyTorch FSDP、DeepSpeed 等),该论文报告了后端差异导致的可复现性差距,建议在训练压缩模型时对比后端并固定配置。
- 如果追求快速低成本恢复压缩模型,可以优先尝试蒸馏而非硬标签 QAT:QAH 对超参不敏感,不需要多周搜索,适合业务中快速迭代模型压缩版本。
MemoryCPT:面向成本-性能权衡的端到端Agent记忆框架
🧭 Agent记忆优化 · 成本与性能权衡 ★ 深度解读
香港科技大学 · 香港科技大学(广州) · 腾讯LIGHTSPEED STUDIOS · 香港中文大学
通过离线蒸馏记忆构建 + 在线GRPO摘要优化,在长对话问答中同时提升答案质量并大幅降低推理成本
📌 工作参考价值(4 点)
- 离线记忆构建与在线检索分离:将记忆压缩为可复用的片段(episodic + semantic),整体记忆构建成本可以在多次查询间摊销,适合电商Agent持续对话或长期用户画像维护,避免每次请求重复处理全量历史。
- RRF融合稠密与稀疏检索:在商品知识库或用户行为记忆中,结合 embedding 和 BM25 两种信号做初步召回,再用 LoRA 摘要器压缩,能有效降低下游 LLM 的 token 消耗——可直接用于客服意图识别或推荐语生成前的背景筛选。
- GRPO 训练成本感知摘要策略:用加权奖励(F1 + token节省)训练摘要模型,使 agent 学会“用最少且最关键的上下文回答问题”。在电商搜索结果摘要生成或广告文案自动适配中,可以借鉴此方法,在字数限制下优化信息含量。
- QPC 指标量化智能密度:在评测推荐解释、Agent 回答或 query 扩展时,除看准确率,也应关注单位推理成本的产出,便于在工程上做模型选型与预算控制——尤其是当需要高频调用大模型时。
移动端电影运镜生成扩散模型 CineMobile
🧭 移动端高效视频生成
Shanghai Jiao Tong University · Nankai University · Transsion
通过剪枝-蒸馏-量化三阶段优化,将大型视频扩散模型压缩至移动端,实现40倍加速的电影运镜生成
📌 工作参考价值(3 点)
- 主要是视觉生成领域的模型压缩贡献,对推荐/广告/Agent 系统的直接业务可借鉴点有限。
- 蒸馏引导的结构化剪枝策略可迁移至推荐模型压缩:先用蒸馏让剪枝后模型快速恢复能力,再联合微调。
- 强化学习与扩散蒸馏结合的少步生成方法,可为搜索推荐系统中使用扩散模型做生成式推荐(如 GenRec)时降低推理步数提供思路。
可验证搜索无法蒸馏为思维链
🧭 思维链蒸馏的局限性
Independent Researcher
对需回溯搜索的任务,直接蒸馏思维链会失败,模型仅学到表面模板而非搜索能力
📌 工作参考价值(4 点)
- 当推荐/Agent任务包含需搜索(如回溯、试错)的子过程时,避免直接蒸馏为端到端思维链,因为模型会退化为输出模板而非执行搜索。
- 可将搜索的核心组合空间预计算为显式目录(类似推荐系统中的索引或候选池),让模型做检索与验证,从而将任务从搜索变为记忆+比较。
- 在RL训练中使用可验证奖励时,若任务需要搜索,应确保奖励能指导前向决策,否则稀疏奖励可能导致模型学会“猜测”模板而不探索。
- 对于生成式推荐中需多步推理的输出(如解释生成),应验证是否包含隐藏的搜索步骤,考虑将其拆分为搜索阶段和生成阶段。
泰勒校准:混合线性注意力蒸馏的原则性初始化
🧭 高效 LLM 架构的蒸馏初始化
The University of Sydney · Together AI · University of California, Berkeley · The University of Texas at Austin · Microsoft
利用泰勒展开匹配教师注意力统计量,让混合线性注意力学生初始化更好,节省 4.9-9.2 倍训练代价
📌 工作参考价值(4 点)
- 电商推荐场景的用户行为序列 Transformer 可部分替换为 Gated DeltaNet,并用 Taylor-Calibrate 初始化,无需重训即可获得低延迟推理与更小 KV cache。
- 知识蒸馏时,可直接借鉴定量匹配教师注意力的初始化策略,避免学生早期不稳定的动态重建,加速推荐大模型压缩。
- Agent 的长期记忆模块若使用线性注意力,可复用泰勒统计初始化思想,用少量数据对齐教师记忆读写门控,提升记忆一致性。
- 方法仅需少量校准数据、无反向传播,可在线快速将预训练推荐模型转为高效推理架构,大幅降低工程上线成本。
ClinSeekAgent:自动化多模态证据寻找的临床Agent推理框架
🧭 动态多模态证据寻找 · 轨迹蒸馏
UC Santa Cruz
提出动态多模态证据寻找Agent,可蒸馏轨迹至小模型,将被动证据消费转为主动获取
📌 工作参考价值(4 点)
- 主动证据获取回路:在推荐/电商场景中,可借鉴Agent主动调用搜索、商品知识库、用户画像等异构工具,动态收集信息并迭代优化判断,替代静态查询。
- 多模态工具集成:医学图像工具调用模式可迁移至多模态商品理解(图文视频),Agent自主决定何时调用图像分析API,提升决策丰富度。
- 轨迹蒸馏策略:将大模型Agent的高质量推理轨迹蒸馏到本地小模型,在保持部分效果的同时降低在线推理成本,适合电商高并发服务。
- 评测范式借鉴:构建“预选证据”与“自动寻找”对等基准,可复用于评估推荐系统从被动排序到主动信息检索的增益。
策略引导探索:用轻量级提示提升RLVR探索效率
🧭 强化学习探索 · 策略级上下文 ★ 深度解读
KAIST · DeepAuto.ai
提出 NudgeRL,通过策略级上下文进行结构化探索,在仅 8 次采样下超 8 倍采样 GRPO
📌 工作参考价值(4 点)
- 低成本探索增强:使用轻量级 LLM(如 gpt-4o-mini)离线生成策略级关键词(如数学定理名),在训练时随机采样并拼入 prompt,即可大幅提升采样多样性。电商推荐场景可类比生成“商品类别/用户意图”等标签作为上下文,引导 Agent 探索不同推荐路径,无需昂贵 oracle 标注。
- 上下文控制优势估计:Inter-Intra Group Advantage 将奖励分解为组内与组间信号,λ 参数可调节探索-利用倾向(λ>1 倾向可靠上下文,λ<1 鼓励探索新上下文)。在 Agent 多策略协作中,可对不同的策略组分配不同 λ,动态平衡已知高转化策略与新策略尝试。
- 知识蒸馏回基础策略:通过优势加权蒸馏,将上下文条件下发现的有效轨迹迁移回原始无上下文的策略,使推理时无需外部提示。在多智能体系统中,可将智能体在辅助信号下学到的技能蒸馏至主策略,避免上线时的输入依赖。
- 采样效率提升的工程启示:论文证明结构化探索可以显著减少所需采样数(8 次 vs 32 次 GRPO),且 pdrop=0.5 随机丢弃上下文能保持稳定训练。在生成式推荐中,若用类似方式对候选生成过程注入多样性(如不同 decoding 技巧或 prompt 模板),可降低大规模采样的计算开销。
闭环验证推理解锁复杂视觉生成
🧭 多模态生成 · 闭环验证推理
University of Science and Technology of China (USTC) · Independent Researcher
提出闭环验证推理框架,结合自动化数据引擎、PPRL强化学习与DSWM权重融合,解决多步规划幻觉、优化不稳定及延迟问题,性能逼近商业模型。
📌 工作参考价值(4 点)
- 自动化闭环数据引擎:用步级视觉验证自动筛选可靠推理轨迹,可迁移到电商 Agent 的多步规划数据合成,提升轨迹质量。
- PPRL 解决长上下文 RL 不稳定:将交错多模态历史蒸馏为显式奖励信号,在电商对话代理中可类似处理长对话上下文,稳定策略优化。
- DSWM 权重融合加速推理:将对齐权重与蒸馏先验融合,将每步 denoising 成本从 50 步降至 4 NFE,适合实时推荐/生成场景的低延迟需求。
- 测试时扩展:多步验证推理解锁复杂任务能力,电商搜索中的复杂查询理解与多级意图生成可借鉴该测试时扩展范式。