当二进制信源的每个符号出现概率时,该信源的熵最大。若二进制信源中有一个符号出现的概率为1,则信源熵为。
举一反三
- 某信源产生a、b、c、d四个符号,各符号独立出现,这个信源可能的最大信源熵为( )。若四个符号的出现概率分别为1/2、1/4、1/8、1/8,则该信源熵为( )。
- 出现概率越小的消息,其所含的信息量越大,二进制中当每个符号出现概率( )时,该信源熵最大。 A:
- 出现概率越小的消息,其所含的信息量越大,二进制中当每个符号出现概率( )时,该信源熵最大。
- 某信源产生a、b、c、d四个符号,各符号独立出现,这个信源可能的最大信源熵为。若四个符号的出现概率分别为1/2、1/4、1/8、1/8,则该信源熵为。 A: 4bit/符号 B: 2bit/符号 C: 1.75bit/符号 D: 0.75bit/符号
- 中国大学MOOC: 二进制无记忆信源(每个符号的出现是独立的),已知“0”符号出现的概率为1/4,则该信源的熵(平均信息量)为【 】bit/符号。