【单选题】关于自信息量和离散信源熵的下列说法正确的是()
A. 自信息量≥ 0 ，离散信源熵≥ 0 ； B. 自信息量≤ 0 ，离散信源熵≤ 0 ； C. 自信息量≥ 0 ，离散信源熵≤ 0 ； D. 自信息量≤ 0 ，离散信源熵≥ 0 ；
A. 自信息量≥ 0 ，离散信源熵≥ 0 ； B. 自信息量≤ 0 ，离散信源熵≤ 0 ； C. 自信息量≥ 0 ，离散信源熵≤ 0 ； D. 自信息量≤ 0 ，离散信源熵≥ 0 ；
自信息量≥ 0 ，离散信源熵≥ 0 ；
举一反三
- 离散信源的熵（平均信息量）指的是指每个符号所含信息量的_________________。
- 【多选题】离散信源是一个离散型的随机变量。对下面关于离散信源X的信息熵H(X)的含义,理解正确的是 A. 在信源输出后，表示每个信源符号所提供的平均信息量。 B. 在信源输出前，表示信源的平均不确定性。 C. 表示信源随机性大小，H(X)大的，随机大。 D. 当信源输出后，不确定性就解除，熵可视为解除信源不确定性所需的信息量
- 下面表达式中错误的是(多选)：（ ）。 A: 连续信源和离散信源的熵都具有非负性 B: 对信源X进行哈夫曼编码得到的码字是唯一的 C: 互信息量I(X;Y)表示从Y中得到的信源X的平均信息量 D: 单符号离散信源的自信息和信源熵都是一个确定值
- 自信息量、信源熵反映 的情况；条件自信息量和条件熵反映 的情况；互信息量和平均互信息量反映 信息流通 的情况。
- 下列有关熵的描述是正确的 A: 信源熵描述的是信源的平均不确定度。 B: 信源熵可以取任意值 C: 信源熵和平均信息量的物理含义一样 D: 信源熵求解的时候是自信息量的数学期望。
内容
- 0
设有一个二进制离散信源（0,1），每个符号独立发送。 （1）若 0，1 等概出现，球每个符号的信息量和平均信息量（熵）。 （2）若 0 出现概率为1/3， 重复（1）
- 1
设有一个二进制离散信源[tex=2.286x1.357]4AG4sq9ONHpAms0C151/TQ==[/tex],每个符号独立发送。(1) 若"0"、"1"等概出现,求每个符号的信息量和平均信息量(熵)；(2) 若 "0" 出现概率为[tex=1.5x1.357]Tf4IJz+NoxCKtD00ga+q/Q==[/tex], 重复(1)。
- 2
离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的（）。
- 3
下列离散信源，熵最大的是（）。
- 4
自信息量、信源熵反映________的情况；条件自信息量和条件熵反映________情况；互信息量和平均互信息量反映__________的情况。