【一致性检验指标】Kappa(cappa)系数

【一致性检验指标】Kappa(cappa)系数

Kappa系数

Kappa系数(也称为Cohen's Kappa),是一种用于评估分类模型或两个评估者之间分类一致性程度的统计指标。它考虑了随机一致性的因素,因此比简单的百分比一致性更为准确。

一、定义与计算

Kappa系数的计算公式为:

k = frac{p_0-p_e}{1-p_e}

其中:

具体计算步骤如下:

二、示例

以学生考试的作文成绩为例,由两个老师给出好、中、差三档的打分,现在已知两位老师的打分结果,需要计算两位老师打分之间的相关性Kappa系数。

混淆矩阵如下:

| | 好 | 中 | 差 || --- | --- | --- | --- || 好 | 10 | 2 | 8 || 中 | 5 | 35 | 5 || 差 | 5 | 2 | 15 |

根据混淆矩阵,可以计算得到:

因此,两位老师打分之间的Kappa系数为0.4293578,表示两者之间存在中等的一致性。

三、指标解释

Kappa系数的取值范围为[-1,1],但通常Kappa系数落在[0,1]之间。根据Kappa系数的取值,可以将其分为五组来表示不同级别的一致性:

Kappa系数是一种有效的评估分类模型或两个评估者之间分类一致性程度的统计指标。通过计算Kappa系数,可以更加准确地了解分类模型或评估者之间的分类一致性情况,从而为后续的决策和改进提供依据。