位置: IT常识 - 正文
python中如何实现信息增益和信息增益率(python如何运用)
编辑：rootadmin推荐整理分享python中如何实现信息增益和信息增益率(python如何运用)，希望有所帮助，仅作参考，欢迎阅读内容。
文章相关热门搜索词:python如何用,python怎么用,python怎么用,python 如何,python如何用,用python做,python怎么用,用python做,内容如对您有帮助，希望把文章链接给更多的朋友！
一、信息增益与信息增益率
1、信息增益
以某特征划分数据集前后的熵的差值。熵可以表示样本集合的不确定性，熵越大，样本的不确定性就越大。因此可以使用划分前后集合熵的差值来衡量使用当前特征对于样本集合D划分效果的好坏。
信息增益 = entroy(前) - entroy(后)
注意：信息增益表示得知特征X的信息而使得类Y的信息熵减少的程度
2、信息增益率
增益率是用前面的信息增益Gain(D, a)和属性a对应的"固有值"(intrinsic value) [Quinlan , 1993J的比值来共同定义的。
二、信息增益与信息增益率python代码实现
1、信息增益定义计算信息增益的函数：计算g(D|A)
defg(data,str1,str2):e1=data.groupby(str1).apply(lambdax:infor(x[str2]))p1=pd.value_counts(data[str1])/len(data[str1])#计算Infor(D|A)e2=sum(e1*p1)returninfor(data[str2])-e2print("学历信息增益：{}".format(g(data,"学历","类别")))#输出结果为：学历信息增益：0.08300749985576883defgr(data,str1,str2):returng(data,str1,str2)/infor(data[str1])print("学历信息增益率：",gr(data,"学历","类别"))#输出结果为:学历信息增益率：0.05237190142858302上一篇：分享帝国CMS提示parse error syntax error的解决方法(帝国cms使用手册)
下一篇：使用curl抓取网页遇到HTTP跳转时得到多个HTTP头部的问题(curl抓包)
