问题
信源熵H(X)的物理含义是什么?
信源无失真传输所需的最小信息率
RH(X)
在信源允许一定失真情况下所需的最小信息率
D↔R(D)
压缩的可行性和必要性:
对于连续信源,因为其绝对熵为无限大,若要求无失真地对其进行传输,则要求信道的信息传输率也为无限大,这是不现实的。因此也就不可能实现完全无失真传输。
即使对于离散信源,由于处理的信息量越来越大,使得信息的存储和传输成本很高,而且在很多场合,过高的信息率也没有必要,例如:由于人耳能够接收的带宽和分辨率是有限的,因此对数字音频传输的时候,就允许有一定的失真,并且对欣赏没有影响。
又如对于数字电视,由于人的视觉系统的分辨率有限,并且对低频比较敏感,对高频不太敏感,因此也可以损失部分高频分量,当然要在一定的限度内。
等等这些,都决定了限失真信源编码的重要性
在限失真信源编码里,一个重要的问题就是在一定程度的允许失真限度内,能把信源信息压缩到什么程度,即最少用多少比特数才能描述信源。
这个问题已经被香农解决。香农在1948年的经典论文中已经提到了这个问题,在1959年,香农又在他的一篇论文“保真度准则下的离散信源编码定理”里讨论了这个问题。研究这个问题并做出较大贡献的还有前苏联的柯尔莫郭洛夫(Kolmogorov)以及伯格(T.Berger)等。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
全部0条评论
快来发表一下你的评论吧 !