条件熵和无条件熵的关系是( )。
A: H(Y/X)
B: H(Y/X)>H(Y)
C: H(Y/X)≤H(Y)
D: H(Y/X)≥H(Y)
A: H(Y/X)
B: H(Y/X)>H(Y)
C: H(Y/X)≤H(Y)
D: H(Y/X)≥H(Y)
举一反三
- 以下选项中，表示条件熵和无条件熵的正确关系是？ A: H(Y/X) B: H(Y/X)>H(Y) C: H(Y/X)<=H(Y) D: H(Y/X)>=H(Y)
- 设X是一个连续随机变量，h(X)表示其微分熵，随机变量Y满足Y = 2X。则以下关系成立的是 A: h(Y) = h(X) B: h(Y) = 2h(X) C: h(Y) = h(X) / 2 D: h(Y) = h(X) + 1 E: h(Y) = h(X) – 1
- 下列关于条件熵的描述正确的是 A: 两个随机变量X，Y的联合分布的熵 B: 条件熵H(X|Y)表示在已知随机变量Y的条件下随机变量X的不确定性 C: H(X|Y)= H(X, Y) - H(Y)，即条件熵H(X|Y)是(X, Y)的联合熵，减去Y单独发生包含的熵 D: 用于表征两个变量概率分布的差异性 。
- 平均互信息量I(X;Y)= A: H(X)－H(X|Y) B: H(Y)－H(Y|X) C: H(X)+H(Y)－H(XY) D: H(X)－H(Y|X)
- 条件熵和无条件熵的关系是： A: H(Y/X)