【计算题】设有一离散无记忆信源 X ,其概率空间为 求该信源的熵及二次扩展信源的熵
离散单符号信源熵 二次扩展信源的熵: (比特/序列)
举一反三
内容
- 0
当二进制信源的每个符号出现概率时,该信源的熵最大。若二进制信源中有一个符号出现的概率为1,则信源熵为。
- 1
若一离散无记忆信源的信源熵H(X)等于2.5,对信源进行等长的无失真二进制编码，则编码长度至少为（）。 A: 2.5 B: 5 C: 2 D: 3
- 2
某离散信源共有16个输出符号,该信源的最大熵为
- 3
【单选题】关于自信息量和离散信源熵的下列说法正确的是() A. 自信息量≥ 0 ，离散信源熵≥ 0 ； B. 自信息量≤ 0 ，离散信源熵≤ 0 ； C. 自信息量≥ 0 ，离散信源熵≤ 0 ； D. 自信息量≤ 0 ，离散信源熵≥ 0 ；
- 4
对连续集的熵的描述正确的是（） A: 连续信源的相对熵和离散信源熵在形式上是一致的，只是用概率密度函数代替概率，用积分代替求和 B: 连续信源的绝对熵为无限大 C: 连续信源最大熵定理表明，信源在不同条件下，最大熵是不相同的。 D: 连续信源熵和离散信源一样都是非负的