第四讲线性系统辨识方法.ppt

第四讲 线性系统辨识方法,最小二乘方法 极大似然法 预报误差法 梯度校正参数辨识方法,一、最小二乘方法,成批最小二乘方法 最小二乘估计的统计性质 递推最小二乘方法 基本最小二乘方法的缺陷及其解决办法 增广最小二乘方法、广义最小二乘方法、多级最小二乘方法、辅助变量法等 最小二乘类辨识方法的比较,1、时不变SISO系统与最小二乘问题,SISO系统,最小二乘辨识问题：,根据输入输出数据，在极小化下列准则函数,2. 成批估计,假设有L组观测数据,可写成矩阵向量形式,Astrom于1965年给出了可辨识的充分必要条件（p137）,3. 参数估计的统计特性,有效性：对于固定观测次数L，方差最小的估计称为有效估计。,4. 递推最小二乘(RLS),算法,5. 基本最小二乘法的缺陷及解决方法,当模型噪声为有色噪声时，最小二乘参数估计不是无偏的，是一个有偏的估计。 随着数据的增长，最小二乘法出现所谓的“数据饱和”现象 解决办法：遗忘因子法 限定记忆法,6. 增广最小二乘法(RELS),注：该方法将噪声模型的辨识考虑进出，扩充了参数向量和数据向量。,7. 广义最小二乘法,辅助变量法、两步法、多级最小二乘法,8. 最小二乘类辨识方法的比较,辨识精度 收敛性质 计算量 所需要的先验知识 参见书本198页,二、极大似然法,基本思想：构造一个以数据和未知参数为自变量的似然函数，当这个函数在某个参数值上达到极大时，就得到了系统模型参数的估计值。,参数估计的极大似然法原理,注 意,概率密度函数和似然函数的区别，数学表达形式一致，物理含义不同。 物理意义见书本230页 极大似然估计量都具有良好的渐近性质和无偏性,三、预报误差法,预报误差法是极大似然法的一种推广，用于解决更加一般的问题（数据的概率分布不知道），当数据的概率分布服从正态分布时，预报误差法等价于极大似然法。 注：（1）该方法是通过极小化某种准则来获得参数估计值； （2）优化算法问题 （3）统计性质,四、梯度校正参数辨识法,新参数估计值=旧参数估计值+增益矩阵*新息,确定性问题的梯度校正参数辨识法 随机逼近法,