- 信源编码是为了提升通信有效性，即提高信息传输速率
- 一个评估标准为编码效率，表征单个比特携带的信息量，在数值上等于信道容量，取值为 0~1
- 编码效率等于信源熵与平均编码长度的比值，因此提升编码效率的策略为两个
- 增大信源熵：若只看信源熵，则当信源码字等概时，信源熵最大；但有些情况下，信源是固定的，因此，信源熵的值也是固定的
- 减小平均编码长度：对于边长编码，概率大的码字用短码，概率小的码字用长码
- 信道编码是为了提升通信的可靠性，即减小信息传输错误率
- 在香农第二编码定理中指出，当信息输出速率 R<C 时，总有一种信道编码可以使得信息传输错误率任意小。此处，C 表示信道容量
- 在高斯信道中，信道容量公式表示为 C=B*log2(1+S/(N0*B))，提升信道容量有两种方式，增大带宽或者增大信噪比。但信道容量不能无限制的提升，最大值为Cmax=1.44*S/(N0)，这就是香农界，又称为香农极限
附件: 香农界.png (2019-3-4 16:24, 105.4 KB) / 下载次数 0