**Gini系数(Gini Coefficient,基尼系数)**是一种衡量不平等分布的统计方法,常用于评估收入、财富等在一个群体中的不平等程度。基尼系数的取值范围在0到1之间,其中0表示完全平等,1表示完全不平等。
基尼系数的计算方法如下:
假设有N个个体,pi 表示第i个个体拥有某项财富或收入的比例(相对于总体的比例),则基尼系数 G 可以通过以下公式计算:
在实际应用中,基尼系数的计算经常用于评估分类模型的不纯度(impurity)。在决策树算法中,基尼系数被用于衡量某个节点的不纯度,从而在构建决策树时选择最优的分割点。
在分类问题中,对于一个具有K个类别的节点,基尼系数的计算方式如下:
其中,pk 表示属于类别k的样本在节点中的比例。
选择最优分割点时,通常会计算分割后的子节点的加权基尼系数,然后选择使得基尼系数最小的分割点。
基尼系数越小,表示节点的不纯度越低,也就是说节点中的样本更加纯净。在构建决策树时,算法会选择使得基尼系数减小最多的分割点。