DeCapBench
2025.03 — 2025.11
PythonPyTorch
做了什么
现有图像描述指标只看「词有没有对上」,不区分错误类型。这个基准把失真拆成 4 类、12 个维度,让模型的失败模式可以被定位。
关键设计
标注一致性用双人交叉 + 分歧仲裁,最终 Cohen's κ 达到 0.81。
python -m decapbench.eval --model llava-1.5 --split test