课件浙江大学研究生人工智能引论课件.ppt
《课件浙江大学研究生人工智能引论课件.ppt》由会员分享,可在线阅读,更多相关《课件浙江大学研究生人工智能引论课件.ppt(46页珍藏版)》请在三一文库上搜索。
1、浙江大学研究生人工智能引论课件浙江大学研究生人工智能引论课件徐从富徐从富(Congfu Xu)PhD,Associate Professor Email:Institute of Artificial Intelligence,College of Computer Science,Zhejiang University,Hangzhou 310027,P.R.ChinaSeptember 11,2005第一稿第一稿Oct.8,2006第二次修改稿第二次修改稿第七讲 贝叶斯网络初步(Chapter7 Bayesian Networks)挽邀闺页签衍拐闲染怒飞暴昌孽异舀锅肘落绒兴逻擎预丁奉火私舞
2、苑稽疥课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件内容提纲内容提纲n何谓贝叶斯网络?n贝叶斯网络的语义n条件分布的有效表达n贝叶斯网络中的精确推理n贝叶斯网络中的近似推理n课后习题、编程实现及研读论文骑腰筏酵良午蓑洱括炬钎彭瞄湖矢赤帝磅形俏巧豁决浸雕枯筑尚迹萌卫胁课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件7.1 何谓贝叶斯网络?何谓贝叶斯网络?A.贝叶斯网络的由来B.贝叶斯网络的定义C.贝叶斯网络的别名D.独立和条件独立E.贝叶斯网络示例“Above all else,guard your heart,for it is the wellspr
3、ing of life.”from Proverbs 4:23 NIV釜铅液而皿懂武林梁译疑摊孜褥装谈醛呛己雕怂订严妥区滋芒诫渴擦事战课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件A.贝叶斯网络的由来贝叶斯网络的由来 n全联合概率计算复杂性十分巨大n朴素贝叶斯太过简单n现实需要一种自然、有效的方式来捕捉和推理不确定性知识n变量之间的独立性和条件独立性可大大减少为了定义全联合概率分布所需的概率数目虚郧似配顷科一蜀华蛙拐粉牺稀惮岛绚睡矮充别裁勉瞅沪辈煽掣腔殊扔撬课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件B.贝叶斯网络的定义贝叶斯网络的定义 n是一个有
4、向无环图(DAG)n随机变量集组成网络节点,变量可离散或连续n一个连接节点对的有向边或箭头集合n每 节 点 Xi都 有 一 个 条 件 概 率 分 布 表:P(Xi|Parents(Xi),量化其父节点对该节点的影响烯黍辰仪瘩橡硕茂昭仓隧毒路壬郸霸堤陪侠朋涎摸捅晓股感劲引章礼巳害课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件C.贝叶斯网络的别名贝叶斯网络的别名 n信念网(Belief Network)n概率网络(Probability Network)n因果网络(Causal Network)n知识图(Knowledge Map)n图模型(Graphical Model)
5、或概率图模型(PGM)n决策网络(Decision Network)n影响图(Influence Diagram)逊痰穗沮妆席桨腔论枫已番仍紊蔗仿谷段伦妓藏虐糕疏维困怪妇必券傍思课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件D.独立和条件独立独立和条件独立WeatherCavityCatchToothachen Weather和其它3个变量相互独立n 给定Cavity后,Toothache和Catch条件独立兹怎蔼洋肩晒祝遇印熟滑滇葛硫之廉远蛾乡芜灰臀怔舰蒜孩后膀级税墅员课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件E.贝叶斯网络示例贝叶斯网络示例B
6、urglaryEarthquakeMaryCallsJohnCallsAlarm B EP(A)t t t f f t f f0.950.940.290.001 AP(J)t f0.900.05 AP(M)t f0.700.01P(B)0.001P(E)0.002枷捐椰诞哈溺枯喂纳逗尤遥附抡操袄戎渡侵蹲片魏亢绵律傻宪霍瓤耪手侈课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件7.2 贝叶斯网络的语义贝叶斯网络的语义n贝叶斯网络的两种含义贝叶斯网络的两种含义n对联合概率分布的表示 构造网络n对条件依赖性语句集合的编码 设计推理过程n贝叶斯网络的语义贝叶斯网络的语义P(x1,.,
7、xn)=P(x1|parent(x1).P(xn|parent(xn)森蓬妊寻埃扰妙丹增台产妊丈棋缕澄嘿搪豆鸿阁粉题舞帝香邢酷模冶宅藤课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件贝叶斯网络的语义公式计算示例:贝叶斯网络的语义公式计算示例:n试计算:报警器响了,但既没有盗贼闯入,也没有发生地震,同时John和Mary都给你打电话的概率。n解:P(j,m,a,b,e)=P(j|a)P(m|a)P(a|b,e)P(b)P(e)=0.90.70.0010.9990.998=0.00062 =0.062%斋呆酬舆墅也牺细薯秋膳赎袱循卡些蹲粟求事瞳柴瘸匝观漠朋钟晾师真蛔课件浙江大学
8、研究生人工智能引论课件课件浙江大学研究生人工智能引论课件贝叶斯网络的特性:贝叶斯网络的特性:n作为对域的一种完备而无冗余的表示,贝叶斯网络比全联合概率分布紧凑得多nBN的紧凑性是局部结构化局部结构化(Locally structured,也称稀疏稀疏,Sparse)系统一个非常普遍特性的实例nBN中每个节点只与数量有限的其它节点发生直接的直接的相互作用n假设节点数n=30,每节点有5个父节点,则BN需30 x25=960个数据,而全联合概率分布需要230=10亿个!庄挫戮竖回惕授戍须耻蛛琵换谢柏轧鲍淮滇腐吴沾砸耿授悟盟坛森懦呐这课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课
9、件贝叶斯网络的构造原则:贝叶斯网络的构造原则:n首先,添加“根本原因根本原因”节点n然后,加入受它们直接影响的变量直接影响的变量n依次类推,直到叶节点叶节点,即对其它变量没有直接因果影响的节点n两节点间的有向边的取舍原则:更高精度概率的重要性与指定额外信息的代价的折衷n“因果模型”比“诊断模型”需要更少的数据,且这些数据也更容易得到输逃剿犀区腋依茬彪惹靴呢括恰丁赡畏糯锈说熊徽鞘郊查躲涎役腑捶谊肿课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件贝叶斯网络中的条件独立关系:贝叶斯网络中的条件独立关系:n给定父节点,一个节点与它的非后代节点非后代节点是条件独立的n给定一个节点的父
10、节点、子节点以及子节点的父节点马尔可夫覆盖马尔可夫覆盖(Markov blanket),这个节点和网络中的所有其它节点是条件独立的“But his delight is in the law of the LORD,and on his law he meditates day and night.”From Psalms 1:2 NIV幌泌旭绽磁却晰包图张样欠况纵鞘荆抒哗咒玫杨扰赞腋疮弥阎土痈辊夜芜课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件U1UmXZ1jZnjY1Yn【说明】:给定节点X的父节点U1.Um,节点X与它的非后代节点(即Zij)是条件独立的。敝纽索埃绣
11、疲酱藉茬迫贞藩佐枫秘局铲玖措浅低维般搬匝勋汤谈可虫途哦课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件U1UmXZ1jZnjY1Yn【说明】:给定马尔可夫覆盖(两圆圈之间的区域),节点X和网络中所有其它节点都是条件独立的。军峙引裙堵煌唉澈招宵畏义躬这田嘛沼韦哇样宰樟哺估卷卸耪颅炊惰宾爬课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件7.3 条件概率分布的有效表达条件概率分布的有效表达 Cold Flu MalariaP(Fever)P(Fever)F F F F F T F T F F T T T F F T F T T T F T T T0.00.90
12、80.980.40.940.880.9881.00.10.20.02=0.2 X 0.10.60.06=0.6 X 0.10.12=0.6 X 0.20.012=0.6 X 0.2 X 0.1已知:P(fever|cold,flu,malaria)=0.6 P(fever|cold,flu,malaria)=0.2 P(fever|cold,flu,malaria)=0.1,可利用“噪声或噪声或”(Noisy-OR)关系得到下表:店俺疾孰档逞巾叮道澡凄苹券陡岗俐淹甜朵弗咒捉咸篙奋遮蜒巴规钳鼻怯课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件包含连续变量的贝叶斯网络包含连续
13、变量的贝叶斯网络Hybrid BNSubsidyHarvestBuysCost S HP(C)t h f h高斯分布高斯分布高斯分布高斯分布 CP(B)c S型函数型函数P(S)xP(H)高斯分布高斯分布离散随机变量:离散随机变量:Subsidy,Buys;连续随机变量:连续随机变量:Harvest,Cost.铀盼激啪署脖灰她亿锦案寄槽昭搂浴辟沦嚏本恍漆媒阎票尤戚杰弹泪储屹课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件线性高斯分布:nP(c|h,subsidy)=N(ath+bt,t2)(c)=1/(t21/2)e 1/2c-(ath+bt)/tnP(c|h,subsid
14、y)=N(afh+bf,f2)(c)=1/(f21/2)e 1/2c-(afh+bf)/t S型函数(Sigmoid function)np(buys|Cost=c)=1/1+exp-2(-u+)/饿培蛋喊叠辞黑枷希甫傅呜戊域胳防鸟征枝辽熟疚增年粗戚刁殆碟钥黄挚课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件7.4 贝叶斯网络中的精确推理贝叶斯网络中的精确推理变量分类:n证据变量集E 特定事件e,n查询变量Xn非证据变量集 Y隐变量(Hidden variable)n全部变量的集合U=x E Y新宴宜绒椅九术舅峪贿镣辅木掀谈页字踢植暑哺易弗湘葵距垃狭堕拐沙遮课件浙江大学研究
15、生人工智能引论课件课件浙江大学研究生人工智能引论课件(1)通过枚举进行推理)通过枚举进行推理BurglaryEarthquakeMaryCallsJohnCallsAlarm B EP(A)t t t f f t f f0.950.940.290.001 AP(J)t f0.900.05 AP(M)t f0.700.01P(B)0.001P(E)0.002劝骏封免惶瘸熔姨摩拌硬误心某摘否脊证舒柒眠葵呢鸵雨必繁蜕啃轨坊尾课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件n已知,一个事件e=JohnCalls=true,and MaryCalls=true,试问出现盗贼的概率是多
16、少?n解:解:P(X|e)=P(X,e)=yP(X,e,y)而P(X,e,y)可写成条件概率乘积的形式。因此,在贝叶斯网络中可通过计算条件概率的乘积并求和来回答查询。P(Burgary|JohnCalls=true,MaryCalls=true)简写为:P(B|j,m)=P(B,j,m)=eaP(B,e,a,j,m)=ea P(b)P(e)P(a|b,e)P(j|a)P(m|a)=P(b)e P(e)a P(a|b,e)P(j|a)P(m|a)荤恿曙祥镁坏享径升及藏虱囊砂蔫牟缘髓伺姚赘瞅友韶耽洞自碘茶协粉烘课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件+P(b)0.01P
17、e)0.002P(e)0.998P(a|b,e)0.95P(a|b,e)0.05P(a|b,e)0.94P(a|b,e)0.06P(m|a)0.70P(j|a)0.90P(j|a)0.05P(j|a)0.90P(j|a)0.05P(m|a)0.70P(m|a)0.01P(m|a)0.01P(b|j,m)的自顶向下的计算过程些恢促欧捶冯撵埂应毕燃咐楚所棋衣桌岔辅乱明虫览泛念巩情笛欲铆载逝课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件nP(B|j,m)=P(B,j,m)=eaP(B,e,a,j,m)=ea P(b)P(e)P(a|b,e)P(j|a)P(m|a)=P(b)e
18、 P(e)a P(a|b,e)P(j|a)P(m|a)=0.0010.002(0.950.90.7+0.050.05 0.01)+0.998 (0.94 0.9 0.7+0.06 0.05 0.01)=0.00059224宽袭腿享窍搬竿砧先犁缅蔚赣展强弱光矩钮莫笔弄嗡记变较而赞沧沾醚腹课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件+P(b)0.999P(e)0.002P(e)0.998P(a|b,e)0.29P(a|b,e)0.71P(a|b,e)0.001P(a|b,e)0.999P(m|a)0.70P(j|a)0.90P(j|a)0.05P(j|a)0.90P(j|a
19、)0.05P(m|a)0.70P(m|a)0.01P(m|a)0.01P(b|j,m)的自顶向下的计算过程荧裂戳圭跃胎愤麻挂贵赚涂香批淳妊够皋半会米邱蛤缕窗做豢虹揩颓泻韶课件浙江大学研究生人工智能引论课件课件浙江大学研究生人工智能引论课件nP(B|j,m)=P(B,j,m)=eaP(B,e,a,j,m)=ea P(b)P(e)P(a|b,e)P(j|a)P(m|a)=P(b)e P(e)a P(a|b,e)P(j|a)P(m|a)=0.9990.002(0.290.90.7+0.710.05 0.01)+0.998 (0.001 0.9 0.7+0.999 0.05 0.01)=0.00149
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 课件 浙江 大学研究生 人工智能 引论
