How to Scale Mixture-of-Experts: From muP to the Maximally Scale-Stable Parameterization
混合专家模型缩放:从μP到最大尺度稳定性参数化
University College London · Amazon · University of Tübingen
提出最大化尺度稳定性参数化 (MSSP) 解决 MoE 联合缩放时的动态退化问题,恢复学习率迁移和单调性能增益
每日 AI / 电商 / 推荐系统 / Agent 论文精选
混合专家模型缩放:从μP到最大尺度稳定性参数化
University College London · Amazon · University of Tübingen
提出最大化尺度稳定性参数化 (MSSP) 解决 MoE 联合缩放时的动态退化问题,恢复学习率迁移和单调性能增益
IdeaForge:知识图谱驱动的多智能体创新分析与专利生成框架
Independent Researcher, Bangalore, Karnataka, India
将创新方法论建模为共享知识图谱上的异构推理算子,通过跨方法论收敛检测提升创意置信度并实现结构化专利生成
基于均值漂移交互粒子系统的贝叶斯推断离散化方法
Center for Computational Science and Engineering, Massachusetts Institute of Technology · Laboratory for Information and Decision Systems, Massachusetts Institute of Technology
提出均值漂移交互粒子系统,通过 MMD 最小化逼近目标分布,实现免归一化常数的贝叶斯积分近似。
基于量子启发的经典算法获得神经网络中奖彩票
The University of Tokyo · RIKEN AIP · CyberAgent
提出量子启发的多项式时间经典算法,高效采样稀疏子网络,性能媲美精确采样
基于物理的3D人体运动奖励用于视频生成
UNC Chapel Hill · FieldAI · NTU Singapore · AI2 · Johns Hopkins University
提出结构化3D运动奖励PhyMotion,通过物理仿真多维度评估运动真实感,显著提升视频生成中的人体运动质量
具有可预测缩放定律及推理可证明益处的层级语言模型
Duke University · University of Chicago · MIT · Princeton University
用树广播过程定义合成语言,精确分析上下文长度与推理的作用,证明有限上下文导致统计不一致且 O(log n) 记忆的推理即可精确采样
克服动态盲区:面向VLA模型的免训练步速与路径校正
Case Western Reserve University · The Hong Kong Polytechnic University · Tsinghua University · InspireOmni AI
提出训练无关的步速与路径校正模块,以闭式解统一修正VLA动作块在动态场景下的时域不一致性
扩散模型多任务训练的在线策略蒸馏视角统一
提出 DiffusionOPD,通过在线策略蒸馏将多个任务教师知识融入统一学生,实现多任务扩散模型高效训练
LiSA:通过保守策略归纳实现终身安全适配
Google Cloud AI Research · Seoul National University · Google
在稀疏、嘈杂反馈下,通过结构化策略记忆与证据感知重用的保守归纳,持续改进AI护栏
MemEye:以视觉为中心的多模态智能体记忆评估框架
从视觉证据粒度和推理方式两维评估多模态记忆,揭示现有架构在细节保留与状态变化推理上的缺陷
MemLens:大视觉语言模型多模态长时记忆基准测试
HKUST · CUHK · OmniMemory · NVIDIA
首个统一长度控制下的多模态对话记忆基准,对比长上下文与记忆增强两类方案,揭示视觉证据检索为瓶颈
MetaAgent-X:端到端RL打破自动多智能体系统的天花板
Oregon State University · UCSD · Amazon AGI · Pennsylvania State University · AG2AI, Inc.
提出首个端到端RL框架,联合优化MAS的设计与执行,通过分层Rollout与阶段式共进化获得最高21.7%提升。
面向多模态检索增强生成的效用导向视觉证据选择
Arizona State University · Texas A&M University · Morgan Stanley
通过信息增益与潜在有用性变量重新定义证据选择,并用轻量替身模型高效估计效用,无需训练即可超越基线
面向风险投资尽职调查的多智能体编排框架
Athens University of Economics and Business
事件驱动多智能体系统自动整合实时网络检索与官方注册文档解析,并通过结构化回退机制消除金融幻觉
面向算法教学意图感知的检索增强辅导系统
North Carolina State University · University of Pittsburgh · University of California, Berkeley · Aalto University
结合多模态检索与苏格拉底式反馈,为算法追踪与问题求解提供课程对齐的AI辅导