AI Papers Daily

#clustering

4 篇

DICS: Data-Informed Centroid Splitting for Decision Tree Classifiers

DICS：面向决策树分类器的数据驱动质心分裂方法

🧭 决策树分裂搜索加速 · 训练效率优化

Department of Mathematical Sciences, University of Texas at El Paso

用聚类构建类感知的紧凑候选分裂集，大幅缩小分裂搜索空间，加速决策树训练且精度不降

📌 工作参考价值（4 点）

• 在电商/广告排序常用的 GBDT（LightGBM/XGBoost）训练中，可借鉴 DICS 思路：对高基数数值或类别特征先做聚类，用聚类质心作为候选分裂点，替代逐值扫描或直方图分桶的固定候选，有潜力进一步降低分裂增益计算量。
• 类感知的质心分裂能保留判别信息，适合处理类别不平衡或特征与标签强相关的场景，例如 CTR 预估中的用户行为计数特征、商品价格等连续特征。
• 该方法可作为特征预处理步骤集成到现有树模型训练框架中，对训练数据采样聚类得到候选分裂集，再交给树模型搜索，工程实现上只需增加一次聚类开销，换来后续所有节点分裂搜索空间减小。
• 注意 DICS 的理论保证依赖假设，实际落地时需在小规模数据上验证精度损失；若精度敏感，可结合已有直方图方法做混合候选集。

Training | 2026-08-20 | cs.LG | score 6/10

decision treesplit searchclusteringtraining efficiencyclassificationGBDT

Real-Time Hard Negative Sampling via LLM-based Clustering for Large-Scale Two-Tower Retrieval

基于 LLM 聚类的实时硬负采样双塔召回

🧭 双塔召回 · 硬负采样 · LLM 聚类 ★ 深度解读

Meta

提出一种在线聚类的硬负采样框架，利用 LLM 生成 item 语义簇并实时抽取簇内 hard negative，显著提升召回并缓解流行度偏差

📌 工作参考价值（4 点）

• 用 LLM 离线生成 item 语义簇替代规则类别：电商/视频场景可构建多模态内容理解模型，产出 300 级粗粒度簇（簇内 item ≥ 10k），作为硬负采样的先验，比人工品类树更适应内容语义和用户兴趣迁移。
• 实时 OOB 池 + 哈希分桶采样：将 item 池按 cluster_id 分段维护，更新与采样均 O(1)，训练 QPS 损失仅 -1.4%，可直接嵌入现有双塔训练流，不需异步构建 ANN 索引。
• 簇内采样缓解反馈循环与流行度偏差：从与正样本同簇的 item 中抽取负样本，迫使模型学习细粒度区分能力，工业实验中 Top100 热门 item 曝光占比从 50% 降至 32%，长尾曝光桶（≥1k impressions）增加 50%，对去偏效果明显。
• 评估避免 k-core 过滤与采样指标：使用全量全局排序评估 HR@50/100，更反映冷启动与稀疏场景的真实效果，业务落地评估时可参考此严格设定。

RecSys | 2026-07-01 | cs.IR | score 10/10

hard negative samplingLLMclusteringtwo-towerretrievalpopularity bias

Cluster, Route, Escalate: Cascaded Framework for Cost-Aware LLM Serving

聚类、路由、升级：面向成本感知LLM服务的级联框架

🧭 LLM级联路由与成本优化

ADAPT Centre, Trinity College Dublin · Huawei Research

两阶段级联：先聚类查询并分配最经济的模型，再通过质量估计升级低质量输出，仅用正确性标签实现成本-准确率优化。

📌 工作参考价值（4 点）

• 多规格LLM路由架构：电商搜索/推荐/Agent场景常有多型号LLM（如7B/70B）。可借鉴其两阶段设计：先用聚类将用户查询按意图分组，如“商品咨询”“售后投诉”“闲聊”，为每组预先分配性价比最高的模型，避免大模型过载。
• 成本可控的升级机制：第二阶段质量估计与升级，类似于推荐系统的粗排-精排级联。可为Agent生成的回复或推荐文案设置质量阈值，当小模型输出置信度低时自动升级到大模型重生成，在保证准确率的同时节省平均推理成本。
• 仅需任务正确性标签，适合快速迭代：框架无需额外的人工标注偏好或优劣对比，只需业务已有的正确/错误标签（如用户满意度标签、客服解决状态）即可离线调优λ和升级阈值，降低维护成本。
• 可解释的超参数控制运营权衡：通过λ显式设定推理成本预算，业务运营可灵活调整“省钱-更准”的天平，无需重新训练或手动配置路由规则，模型池变化时自动适配。

LLM | 2026-06-24 | HF Daily | score 7/10

cascaded inferencemodel routingcost-aware servingclusteringquality estimationLLM deployment

Hierarchical Partial-Order Models for Ranking

层次偏序模型用于排名聚合

🧭 偏序排名聚合 · 层次聚类

University of Oxford · University of Auckland

将偏序排名模型扩展到层次结构，建模分组偏好并保持不可比性，优于现有方法。

📌 工作参考价值（4 点）

• 在推荐系统中，用户行为（点击、购买）常表现为偏序关系而非全序，使用偏序建模可更准确地捕捉偏好不确定性，避免强制排序带来的噪声。
• 层次结构允许跨用户群组共享信息，可应用于冷启动用户或稀疏评分场景，通过纳入群体先验提升预测精度。
• 无监督聚类扩展 HCPO 能自动发现用户群体结构，可直接用于用户分群或兴趣聚类，替代传统 k-means 等硬聚类方法。
• MCMC 推断输出后验分布，可提供不确定性量化，有助于推荐可解释性及风险控制，例如在广告投放中评估偏好排序的置信度。

RecSys | 2026-06-23 | stat.ML | score 7/10

partial ordersrank aggregationhierarchical modelBayesian inferenceMCMCclustering