第二部分1.ppt
《第二部分1.ppt》由会员分享,可在线阅读,更多相关《第二部分1.ppt(23页珍藏版)》请在三一文库上搜索。
1、二、信源及信源编码,主要内容 2.1 离散信源(核心教材为主) 2.2 连续信源及离散化(随机变量、随机矢量、随机过程描述信源及其熵,连续信源正交展开) 2.3 无失真信源编码(马尔科夫信源编码方法及有效性) 2.4 限失真信源编码(核心教材为主),二、信源及信源编码,2.1 离散信源 1、设计信源寻找熵最小的信源 3.1 信源的数学模型及其分类 3.2 离散无记忆信源 3.3 离散无记忆信源的扩展信源 3.4 离散平稳信源 3.5 马尔可夫信源 3.6 信源的相关性和剩余度,一、 简单离散无记忆信源 1、定义:设信源输出符号集合 ,每次信源输出一个消息符号,且消息符号之间彼此统计独立,称为简
2、单离散无记忆信源,可用一维随机变量X描述,其数学模型为,例如二元离散信源,二、信源及信源编码,2、简单离散无记忆信源的信息熵 、自信息量精描述 简单离散无记忆信源中,消息符号ai的自信息量为 、信息熵粗描述 简单离散无记忆信源的信息熵为,H(X) 是 p(x) 的函数; H(X) 是信源输出每个符号平均携带的信息量。,二、信源及信源编码,二、离散无记忆N次扩展信源 设X是一个离散无记忆信源,其概率空间为 其中,q 为信源符号个数,p(ai)0, i=1,2,q X的N次扩展信源XN是具有个qN消息符号的离散无记忆信源,其数学模型为,二、信源及信源编码,其中,说明:信源X的符号集合为 N次扩展信
3、源XN符号集合为,二、信源及信源编码,4、离散无记忆N次扩展信源的熵 离散无记忆信源X的N次扩展信源XN的熵等于信源X的熵的N倍,即 其中,H(X)是原始信源X的熵; H(XN) 是原始信源X进行N次无记忆扩展后得到的信源XN的熵,扩展信源的每个符号使用了原始信源的N个符号。 结论:信源无记忆扩展后,熵不变。,二、信源及信源编码,三、N维平稳信源的熵 特性: 信源输出的随机序列是平稳的; 输出序列每N个符号一组; 组与组之间统计无关,组内符号相关; 符号X1XN取值同一符号集A=a1,a2, ,aq 概率空间,二、信源及信源编码, N维平稳信源的熵 联合熵 平均符号熵 :信源输出为N长符号序列
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第二 部分
链接地址:https://www.31doc.com/p-2582303.html