一点线性代数知识-主成分分析基础知识.ppt

一点线性代数知识,矩阵,一组有关系的数即可形成一个矩阵,这里称A为4*2矩阵， aij是矩阵的元素。如果行数和列数相等，则称为方阵。常见方阵有协方差矩阵V和相关系数矩阵R：,几个特殊矩阵：,0阵：所有元素都是0的矩阵。 单位阵I：一个方阵中的对角线元素全为1而其余元素都是0. 对称阵：以对角线为轴上下对称的方阵，如R阵。,向量：只有一行或一列的矩阵。,矩阵的加减法：当两矩阵行数和列数相等时，每两个对应位置的元素相加。 一个数k与矩阵相乘：将矩阵中每个元素乘以该数k。 矩阵乘矩阵：一个m*n矩阵A与一个n*p矩阵B相乘，记为AB=C，C是一个m*p矩阵。计算方法为用A阵的第i行每个元素乘以B阵的第j列相对应元素并求和得到C阵的元素cij。,任一矩阵和单位阵相乘等于原矩阵。 矩阵的逆： 一个方阵A，如存在一个方阵B，使得 AB=BA=I （单位阵）， 则称A为B的逆阵，B为A的逆阵。 A=B-1,矩阵的转置,设A为m×n阶矩阵（即m行n列），第i 行j 列的元素是a(i,j)，即：A=a(i,j) A的转置定义为这样一个n×m阶矩阵B，满足B=a(j,i)，即 b (i,j)=a (j,i)（B的第i行第j列元素是A的第j行第i列元素），记A=B。(或记为AT=B） 直观来看，将A的所有元素绕着主对角线作镜面反转，即得到A的转置。,矩阵的特征值与特征向量,对于一个给定的线性变换，它的特征向量x经过这个线性变换之后，得到的新向量仍然与原来的x保持在同一条直线上，但其长度也许会改变。 一个特征向量的长度在该线性变换下缩放的比例称为其特征值。如果特征值为正，则表示x在经过线性变换的作用后方向也不变；如果特征值为负，说明方向会反转；如果特征值为0，则是表示缩回零点。 在一定条件下（如矩阵形式为实对称矩阵的线性变换），一个变换可以由其特征值和特征向量完全表述。,矩阵的特征值与特征向量,一个方阵A如存在常数及非零向量x，使下式成立 Ax= x 则称为A的一个特征值，x称为A的特征向量。 一般来说，1个n阶方阵有n个特征值及相对应的n个特征向量。 对应于不同特征值的特征向量相互正交。,对于Ax= x，在等式两边的左侧乘以单位矩阵I，得到 IAx= Ix Ax=(I)x (A-I)x= 0 一旦找到特征值，相应的特征向量就可以通过求解如下方程得到： (A-I)x= 0,