决策树原理的python实现

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了决策树原理的python实现，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含792字，纯文字阅读大概需要2分钟。

内容图文

我们已经知道ID3算法是基于信息增益来实现的，下面就根据原理写出代码：

1.首先计算信息熵

from math import log

# 计算数据集的信息熵，注意，该数据的数据类型是list
def calcShannonEnt(dataset):   
    numEntries = len(dataset)   # 样本数，这里的dataSet是列表
    labelCounts = {}  #定义一个字典，key为类别，值为类别数
    for featVec in dataset:   # 统计各个类别的个数
        currentLabel = featVec[-1]  #最后一列是类别
        if currentLabel not in labelCounts.keys():  #主要判断类别中的类别有有没有出现过，如果以前没有出现过，这赋值为0，
            labelCounts[currentLabel] = 0
        labelCounts[currentLabel] += 1  #用于计算每个类别的个数
    shannonEnt = 0.0   # 信息熵
    for key in labelCounts:
        prob = float(labelCounts[key])/numEntries  #记得要将数据转Wie浮点型
        shannonEnt -= prob * log(prob,2)
    return shannonEnt  # 信息熵

2.按照给定特征划分数据集，主要用于

内容总结

以上是互联网集市为您收集整理的决策树原理的python实现全部内容，希望文章能够帮你解决决策树原理的python实现所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端