描述一对随机变量平均所需要的信息量的是( )。
A: 条件熵
B: 熵率
C: 熵
D: 联合熵
A: 条件熵
B: 熵率
C: 熵
D: 联合熵
举一反三
- 自信息量、信源熵反映 的情况;条件自信息量和条件熵反映 的情况;互信息量和平均互信息量反映 信息流通 的情况。
- 下列关于条件熵的描述正确的是 A: 两个随机变量X,Y的联合分布的熵 B: 条件熵H(X|Y)表示在已知随机变量Y的条件下随机变量X的不确定性 C: H(X|Y)= H(X, Y) - H(Y),即条件熵H(X|Y)是(X, Y)的联合熵,减去Y单独发生包含的熵 D: 用于表征两个变量概率分布的差异性 。
- 下列有关熵的描述是正确的 A: 信源熵描述的是信源的平均不确定度。 B: 信源熵可以取任意值 C: 信源熵和平均信息量的物理含义一样 D: 信源熵求解的时候是自信息量的数学期望。
- 自信息量、信源熵反映________的情况;条件自信息量和条件熵反映________情况;互信息量和平均互信息量反映__________的情况。
- 关于熵的下列说法中不正确的是 A: 信源熵是在平均意义上来表征信源的总体特性,即平均自信息 B: 条件熵大于信源熵 C: 联合熵小于等于信源熵之和 D: 当信源符号等概率分布时,熵值最大