下列有关熵的描述是正确的
A: 信源熵描述的是信源的平均不确定度。
B: 信源熵可以取任意值
C: 信源熵和平均信息量的物理含义一样
D: 信源熵求解的时候是自信息量的数学期望。
A: 信源熵描述的是信源的平均不确定度。
B: 信源熵可以取任意值
C: 信源熵和平均信息量的物理含义一样
D: 信源熵求解的时候是自信息量的数学期望。
A
举一反三
- 【单选题】关于自信息量和离散信源熵的下列说法正确的是() A. 自信息量≥ 0 ,离散信源熵≥ 0 ; B. 自信息量≤ 0 ,离散信源熵≤ 0 ; C. 自信息量≥ 0 ,离散信源熵≤ 0 ; D. 自信息量≤ 0 ,离散信源熵≥ 0 ;
- 关于熵的下列说法中不正确的是 A: 信源熵是在平均意义上来表征信源的总体特性,即平均自信息 B: 条件熵大于信源熵 C: 联合熵小于等于信源熵之和 D: 当信源符号等概率分布时,熵值最大
- 关于熵函数的对称性以下说法正确的是( )。 A: 熵函数的对称性表明信息熵描述了信源总体的平均不确定性 B: 熵函数的对称性表明信息熵描述了信源具体或主观含义 C: 上面选项都不对 D: 熵函数的对称性表明信息熵描述了信源局部的平均不确定性
- 离散信源的熵(平均信息量)指的是指每个符号所含信息量的_________________。
- 下列有关条件熵的说法正确的是 A: 噪声熵和疑义度相等。 B: 条件熵是在条件概率空间上对条件自信息量求解数学期望。 C: 噪声熵是由噪声引起的不确定度。 D: 条件熵都大于信源熵
内容
- 0
对连续集的熵的描述正确的是() A: 连续信源的相对熵和离散信源熵在形式上是一致的,只是用概率密度函数代替概率,用积分代替求和 B: 连续信源的绝对熵为无限大 C: 连续信源最大熵定理表明,信源在不同条件下,最大熵是不相同的。 D: 连续信源熵和离散信源一样都是非负的
- 1
【多选题】离散信源是一个离散型的随机变量。对下面关于离散信源X的信息熵H(X)的含义,理解正确的是 A. 在信源输出后,表示每个信源符号所提供的平均信息量。 B. 在信源输出前,表示信源的平均不确定性。 C. 表示信源随机性大小,H(X)大的,随机大。 D. 当信源输出后,不确定性就解除,熵可视为解除信源不确定性所需的信息量
- 2
下面表达式中错误的是(多选):( )。 A: 连续信源和离散信源的熵都具有非负性 B: 对信源X进行哈夫曼编码得到的码字是唯一的 C: 互信息量I(X;Y)表示从Y中得到的信源X的平均信息量 D: 单符号离散信源的自信息和信源熵都是一个确定值
- 3
自信息量、信源熵反映 的情况;条件自信息量和条件熵反映 的情况;互信息量和平均互信息量反映 信息流通 的情况。
- 4
自信息量、信源熵反映________的情况;条件自信息量和条件熵反映________情况;互信息量和平均互信息量反映__________的情况。