当两个随机分布相同时,其相对熵为0。当两个随机分布的差别增加时,其相对熵减小。( )
举一反三
- 中国大学MOOC:当离散信源输出服从分布时,其熵为最大。
- 对于定义域为有限的随机变量X,当它是______ 分布时,具有最大熵;对于相关矩阵一定的随机变量X,当它是______ 分布时,具有最大熵;对于离散无记忆信源,当输出符号是______ 分布时,熵最大。
- 两个体积一样,装有相同温度的同种气体的绝热刚性容器,当连接两容器的通道打开时,气体相互掺混的过程中,整个系统的熵变() A: 熵不变化 B: 无法判断 C: 熵减小 D: 熵增加
- 两个信号的互相关函数在何种情况下不为0 A: 两信号为周期信号,其频率不同 B: 两信号为周期信号,其频率相同 C: 两信号为周期信号与随机信号 D: 两信号为两随机信号
- 幅度受限的随机变量,当分布时有最大的熵;功率受限的随机变量,当分布时有最大的熵