J-Comm: Jacobian-Guided Latent Communication between LLM Agents
J-Comm:基于雅可比引导的 LLM 智能体间潜在通信
🧭 多智能体潜在通信与推理加速
The University of Melbourne · Shanghai Jiao Tong University
用无需训练的 GEAR 潜在推理与 H+J 隐式/雅可比双通道接口,让不同宽度 LLM 智能体高效传递推理状态并大幅减少文本 token
📌 工作参考价值(4 点)
- 可将 H+J 接口用于跨模型 Agent 协作:H 通道传递连续输入,J 通道注入雅可比中间状态,无需共享 KV cache 或相同宽度,适合电商多模型(如召回/排序/文案 Agent)异构部署。
- GEAR 属于训练免重排:在已有模型 embedding 上按几何共识单调优化 token 候选,可直接作为 LLM 推理后处理,低成本提升生成质量。
- J-Comm 相对 TextMAS 减少 19.2–74.8% 文本 token,能在 Agent 密集交互(如商品文案生成、对话式推荐)中显著降低推理延迟和 token 成本。
- J 通道的 vocabulary-indexed Jacobian-lens 坐标提供中间计算的可观测视角,可用于模型诊断、蒸馏或跨模型知识迁移。