HarmVideoBench: Benchmarking Harmful Video Understanding in Large Multimodal Models
HarmVideoBench：面向大模型的有害视频多层理解基准
🧭 多模态安全审核 · 动态检索增强
Central South University · Tsinghua University · ByteDance Inc · Tencent · Nankai University
构建首个多层次有害视频诊断基准并配套边界感知检索方法，将LVLM理解能力提升至84.4%
📌 工作参考价值（4 点）
- 在商品视频审核中，可借鉴“可观察证据→片段内含义→超出片段推理”三层框架设计评测集，避免只做二分类漏判隐性违规。
- BCR 的推理边界预测机制可嵌入多模态 RAG 审核链路：模型先判断是否需要检索外部知识，降低高并发审核场景的推理延迟与成本。
- 该基准暴露了现有模型依赖表面捷径的缺陷，建议在推荐系统的内容理解评测中加入对比测试，防止因浅层匹配误判而放过违规内容。
- 动态按需检索的思路可迁移至 Agent 的视觉推理任务，例如商品短视频的自动解说生成，仅在需要外部产品知识时触发检索，提升生成效率。