Real-Time Voice AI Hears but Does Not Listen
实时语音AI听得见声音却听不懂语气
🧭 语音Agent情感智能评估
Together AI · Stanford University
主流实时语音AI在做决策时忽略声音情绪，仅依赖文字内容，形成“情感智能差距”
📌 工作参考价值（4 点）
- 在语音客服或语音推荐Agent中，不能只依赖ASR转写的文本进行决策，必须将声音情绪特征（如语调、语速、重音）作为决策的额外模态输入，否则可能误判用户意图（比如愤怒用户说“没事”而机器人草率结束会话）。
- 对于需要情感敏感的场景（如投诉处理、大额交易确认），可以加入声学情感分类器作为安全阀，当检测到声音情绪与文字语义冲突时触发人工介入或二次确认。
- 评估语音Agent能力时，应专门设计“词汇-韵律冲突”的测试集，避免仅用文字上的准确率作为指标，从而暴露系统是否真正理解语音。
- Prompt工程直接要求模型关注声音情绪有时能改善，但不稳定，更可靠的方案是架构层面融合独立的语音情感表征（如加入专门的prosody encoder），而不是期望单一模型兼顾。