一个属性的信息增益就是由于使用这个属性分割样例而导致的期望熵降低。
对
举一反三
- ID3算法中,关于使用某个描述属性所能获得的"信息增益”，以下说法正确的是 A: 信息增益=使用该描述属性划分后得到的熵值 B: 信息增益=分类期望-使用该描述属性划分后得到的熵值 C: 信息增益=该描述属性划分后得到的子集数量 D: 信息增益=分类期望-该描述属性划分后得到的子集数量
- 信息增益表示，当样本集S用属性A做分类后，样本集的熵的变化程度。（ ）
- 使用 ID3 算法构建决策树时，选择属性的度量依据是 （ ）。 A: 信息熵 B: 信息增益 C: 条件熵 D: 信息增益率
- 如果类别分布的信息熵是0.301，给定属性A的条件熵为0.2007，给定属性B的条件熵为0.1495，那么下列说法正确的是？（ ） A: 属性A的信息增益小于属性B B: 属性B带来的信息多于属性A C: 属性A带来的信息多于属性B D: 属性A的信息增益大于属性B
- ID3算法的属性选择度量就是使用信息增益，选择______ 的属性作为当前结点的测试属性
内容
- 0
在决策树分割结点的时候，下列关于信息增益说法正确的是（ ） A: 纯度高的结点需要更多的信息来描述它 B: 如果选择一个属性具有许多特征值, 那么这个信息增益是有偏差的 C: 信息增益可以用”1比特-熵”获得 D: 选项中说法都不对
- 1
不属于常见的属性选择标准的是 A: 信息增益 B: 信息熵 C: 信息增益率 D: Gini系数
- 2
对于信息增益,决策树分裂节点,下面说法正确的是:（) A: 纯度高的节点需要更多的信息去区分 B: 信息增益可以用”1比特-熵”获得 C: 如果选择一个属性具有许多归类值,那么这个信息增益是有偏差的
- 3
决策树中一般采用“信息增益”对属性进行排序，以下关于“信息增益”描述正确的是（ ）。 A: 如果一个属性执行后，使得数据集上的信息增益越大，该属性越优先执行 B: 如果一个属性执行后，使得数据集上的信息增益越小，该属性越优先执行 C: “信息增益”对属性排序的差异不影响决策树的结果 D: 以上都不对
- 4
C4.5决策树学习算法以（ ）为准则划分属性。 A: 增益率 B: 信息熵 C: 基尼系数 D: 信息增益