使用 krippendorff alpha 或 fleiss kappa 的低注释器间协议

问题描述

我有 3 个类别,每个类别由 3 个注释者评分。在 52% 的情况下,3 名注释者同意同一类别,43% 两名注释者同意一个类别,并且只有 5% 的情况下,每个注释者选择了不同的类别。

我计算了 fleiss 的 kappa 或 krippendorff,但 krippendorff 的值比 fleiss 低得多,低得多,它是 0.032,而我的 fleiss 是 0.49

是不是协议太低了,尤其是使用krippendorff?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)