描述一对随机变量平均所需要的信息量的是( )。
A: 条件熵
B: 熵率
C: 熵
D: 联合熵
A: 条件熵
B: 熵率
C: 熵
D: 联合熵
D
举一反三
- 自信息量、信源熵反映 的情况;条件自信息量和条件熵反映 的情况;互信息量和平均互信息量反映 信息流通 的情况。
- 下列关于条件熵的描述正确的是 A: 两个随机变量X,Y的联合分布的熵 B: 条件熵H(X|Y)表示在已知随机变量Y的条件下随机变量X的不确定性 C: H(X|Y)= H(X, Y) - H(Y),即条件熵H(X|Y)是(X, Y)的联合熵,减去Y单独发生包含的熵 D: 用于表征两个变量概率分布的差异性 。
- 下列有关熵的描述是正确的 A: 信源熵描述的是信源的平均不确定度。 B: 信源熵可以取任意值 C: 信源熵和平均信息量的物理含义一样 D: 信源熵求解的时候是自信息量的数学期望。
- 自信息量、信源熵反映________的情况;条件自信息量和条件熵反映________情况;互信息量和平均互信息量反映__________的情况。
- 关于熵的下列说法中不正确的是 A: 信源熵是在平均意义上来表征信源的总体特性,即平均自信息 B: 条件熵大于信源熵 C: 联合熵小于等于信源熵之和 D: 当信源符号等概率分布时,熵值最大
内容
- 0
熵压缩法中的熵定义为()。 A: 冗余 B: 数据 C: 平均信息量 D: 信息量
- 1
以下关于“熵”、“信息熵”的有关内容描述不正确的是( ) A: 不确定性越大,信息量就越大,信息熵也越大 B: 学者杰恩斯提出了“信息熵”的概念,把熵作为一个随机事件的“不确定性”或信息量的量度 C: “熵”是一个系统的“内在的混乱程度” D: 最大熵原理的主要思想是在已知部分知识的前提下,对于未知分布最合理的推断。
- 2
关于熵函数的对称性以下说法正确的是( )。 A: 熵函数的对称性表明信息熵描述了信源总体的平均不确定性 B: 熵函数的对称性表明信息熵描述了信源具体或主观含义 C: 上面选项都不对 D: 熵函数的对称性表明信息熵描述了信源局部的平均不确定性
- 3
下列有关条件熵的说法正确的是 A: 噪声熵和疑义度相等。 B: 条件熵是在条件概率空间上对条件自信息量求解数学期望。 C: 噪声熵是由噪声引起的不确定度。 D: 条件熵都大于信源熵
- 4
关于信息熵,以下说法正确的是<br/>() A: 信息熵越大,不确定程度越高 B: 信息熵越大,不确定程度越低 C: 信息熵越大,信息量越多 D: 信息熵越小,不确定程度越高