第三章习题课.ppt
《第三章习题课.ppt》由会员分享,可在线阅读,更多相关《第三章习题课.ppt(21页珍藏版)》请在三一文库上搜索。
1、2019/6/21,1,子曰:“不愤不启,不悱不发,举一隅不以三隅反,则不复也” 孔子,2019/6/21,2,信道容量 C:在信道中最大的信息传输速率,单位是比特/信道符号。 单位时间的信道容量 Ct:若信道平均传输一个符号需要 t 秒钟,则单位时间的信道容量为 Ct 实际是信道的最大信息传输速率。,第三章总结,2019/6/21,3,求信道容量的方法 当信道特性 p(yj /xi) 固定后,I(X;Y) 随信源概率分布 p(xi) 的变化而变化。 调整 p(xi),在接收端就能获得不同的信息量。由平均互信息的性质已知,I(X;Y) 是 p(xi) 的上凸函数,因此总能找到一种概率分布 p(
2、xi)(即某一种信源),使信道所能传送的信息率为最大。 C 和 Ct 都是求平均互信息 I(X;Y) 的条件极大值问题,当输入信源概率分布 p(xi) 调整好以后, C 和 Ct 已与 p(xi) 无关,而仅仅是信道转移概率的函数,只与信道统计特性有关; 信道容量是完全描述信道特性的参量; 信道容量是信道能够传送的最大信息量。,2019/6/21,4,习题1,1.设信源 通过一干扰信道,接收符号为Y=y1,y2,信道传递概率如下图所示。求 信源X中事件x1和x2分别含有的信息量。 收到消息yj (j=1,2)后,获得的关于xi (i=1,2)的信息量。 信源X和信源Y的信息熵。 信道疑义度H(
3、X/Y)和噪声熵H(Y/X)。 接收到消息Y后获得的平均互信息。,2019/6/21,5,习题1,解答:,互信息可以为正值也可以为负值,负值表明由于噪声的存在,接收到一个消息后,对另一个消息是否出现的不确定性反而增加了。,2019/6/21,6,习题1,解答:,2019/6/21,7,习题2,2.设二元对称信道的传递概率为 若P(0)=3/4,P(1)=1/4,求H(X),H(X/Y),H(Y/X)和I(X;Y)。 求该信道的信道容量及达到信道容量时的输入概率分布。,2019/6/21,8,习题2,2019/6/21,9,习题3,3.有一个二元对称信道,其信道矩阵如下图所示。设该信道以1500
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第三 习题
链接地址:https://www.31doc.com/p-2996053.html