二章贝叶斯决策理论.ppt
《二章贝叶斯决策理论.ppt》由会员分享,可在线阅读,更多相关《二章贝叶斯决策理论.ppt(26页珍藏版)》请在三一文库上搜索。
1、第二章 贝叶斯决策理论,2.1 最小错误率准则,各种概率及其关系,先验概率: 后验概率: 类条件概率: 贝叶斯公式:,两个类别,一维特征,两类问题的错误率,观察到特征x时作出判别的错误率:,两类问题最小错误率判别准则:,多类问题最小错误率,判别x属于i的错误率:,判别准则为:,则:,贝叶斯最小错误率准则,Bayes判别准则:,,则,贝叶斯分类器的错误率估计,例2.1,对一大批人进行癌症普查,设1类代表患癌症,2类代表正常人。已知先验概率:,以一个化验结果作为特征x: 阳性,阴性,患癌症的人和正常人化验结果为阳性的概率分别为:,现有一人化验结果为阳性,问此人是否患癌症?,2.2 最小平均风险准则
2、贝叶斯分 类器,问题的提出 有c个类别1, 2 ,. , c, 将i类的样本判别为j类的代价为ij。 将未知模式x判别为j类的平均风险为:,最小平均风险判别准则,利用Bayes公式,构造判别函数:,贝叶斯分类器,例2.2,对一大批人进行癌症普查,设1类代表患癌症,2类代表正常人。已知先验概率:,以一个化验结果作为特征x: 阳性,阴性,患癌症的人和正常人化验结果为阳性的概率分别为:,判别代价: 11 = 0, 22 = 0, 12 = 100, 21 = 25 现有一人化验结果为阳性,问此人是否患癌症?,2.3 贝叶斯分类器的其它版本,先验概率P(i)未知:极小化极大准则; 约束一定错误率(风险
3、):Neyman-Pearson准则; 某些特征缺失的决策: 连续出现的模式之间统计相关的决策:,2.4 正态分布的贝叶斯分类器,单变量正态分布密度函数(高斯分布):,多元正态分布函数,正态分布的判别函数,贝叶斯判别函数可以写成对数形式:,类条件概率密度函数为正态分布时:,情况一:,判别函数可以写成:,此分类器称为距离分类器,判别函数可以用待识模式x与类别均值i之间的距离表示:,情况二:,判别函数可以写成:,可以简化为:,称为线性分类器,线性分类器,两类问题,1维特征,先验概率相同时:,线性分类器,两类问题,高维特征,先验概率相同时:,线性分类器,两类问题,1维特征,先验概率不同时:,线性分类器,两类问题,高维特征,先验概率不同时:,情况三: 任意,判别函数可以写成:,分类界面为2次曲线(面),二次分类曲线,二次分类曲面,
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 二章贝叶斯 决策 理论
链接地址:https://www.31doc.com/p-3106703.html