【大学课件】面向综合语言知识库建设的汉语词义消歧与标注语言模型研究.ppt
《【大学课件】面向综合语言知识库建设的汉语词义消歧与标注语言模型研究.ppt》由会员分享,可在线阅读,更多相关《【大学课件】面向综合语言知识库建设的汉语词义消歧与标注语言模型研究.ppt(102页珍藏版)》请在三一文库上搜索。
1、面向综合语言知识库建设的 汉语词义消歧与标注语言模型研究,http:/ 绪 论 二、 国内外研究现状分析 三、 词语义项的表征及其可计算性 四、 基于多知识源的知识提取与融合 五、 面向汉语词义排歧与标注的语言模型 六、 标注语料的一致性保证与正确性评价 七、 面向真实文本的汉语词义标注实验系统的设计与实现 八、 结 束 语,http:/ 基于词典知识的词义消歧方法 有指导的统计词义消歧方法 无指导的统计词义消歧方法 现有研究存在的问题与改进策略 伪词法-可解决训练语料不足的问题 少数几个词-只适于对消歧算法的研究,http:/ 目标:建设高质量的大规模汉语综合语言知识库 内容:汉语语料库建设
2、过程中汉语词义消歧与标注的基本方法和关键技术。 所具有的优势 人员优势:文理交叉; 资源优势:世界上最大的标注语料库,语法信息词典等,http:/ 知识源的选择; 基于多知识源的知识提取与融合; 基于知识的词义消歧模型与算法; 模型的评价与一致性检验方法 研究方法与技术路线 开发试验平台用于模型与算法的实验研究; 采用同形标注与义项标注两步走战略;,http:/ 绪 论 二、 国内外研究现状分析 三、 词语义项的表征及其可计算性 四、 基于多知识源的知识提取与融合 五、 面向汉语词义排歧与标注的语言模型 六、 标注语料的一致性保证与正确性评价 七、 面向真实文本的汉语词义标注实验系统的设计与实
3、现 八、 结 束 语,http:/ 意义训释表征方式及其可计算性 义原表征方式及其可计算性 概念依存关系表征方式及其可计算性 由可计算性看表征方式对词义消歧的作用 结论,三、词义的表征及其可计算性,http:/ 3.1 题引,W-i S1 S2 W-1 W Sk W+1 Sn W+i,语料消歧,自然语言处理中的多义词问题 多义词在信息检索、机器翻译、文本校对等领域都会引起歧义,它的表征方法直接关系到词义消歧的可计算性和可实现性。,多义词:同一个词形(word form)表达了多个不同的意义。,http:/ 如何在词典中实现词语的多个义项的表征? 传统辞书的释义方式意义训释 语义原语描述语言义原
4、表征 概念依存关系概念依存关系表征 它们的可计算性如何?,三、词义的表征及其可计算性 3.1题引,http:/ 意义训释表征方式及其可计算性 义原表征方式及其可计算性 概念依存关系表征方式及其可计算性 由可计算性看表征方式对词义消歧的作用 结论,三、词义的表征及其可计算性,http:/ 3.2意义训释表征方式及其可计算性,3.2.1 表征形式 以自然语言形式定义和解释词语意义 【仪表】 人的外表 测定温度、气压、电量、血压等的仪器 问题: 自然语言本身的模糊性、歧义性,造成多义词解释的递归性。引发歧义膨胀,http:/ 3.2意义训释表征方式及其可计算性,http:/ 可计算性及其应用 在词义
5、消歧中的应用: 20世纪80年代是一种流行知识资源。 词义消歧:Lesk(1986)应用Oxford Advanced learners Dictionary释义辞典进行词义消歧。 可计算性:比较弱 所采用的方法各个义项的释义部分与其所在上下文词语间的覆盖度,确定它在该上下文中的适当意义。 但释义部分简明时,与上下文的覆盖度为0; 通过同义词扩充增大上下文的窗口,增大覆盖度。但仅应用这种释义词典不好进行同义词的计算。,三、词义的表征及其可计算性 意义训释表征方式及其可计算性,http:/ 意义训释表征方式及其可计算性 义原表征方式及其可计算性 概念依存关系表征方式及其可计算性 由可计算性看表征
6、方式对词义消歧的作用 结论,三、词义的表征及其可计算性,http:/ 表征方式 知网采用义原来表示概念 义原:最基本的、不易于再分割的、意义最小的语义单位。 空间变换:将数量非常大(6万多个概念)的概念空间,映射到维数有限的义原空间。从而使文本内容的计算可实现化。 多义词的表示示例如下:,三、词义的表征及其可计算性 3.3义原表征方式及其可计算性,http:/ NO.=096060 W_C=仪表 G_C= E_C= W_E=bearing G_E=N E_E= DEF=attribute|属性,bearing|仪态,&human|人 NO.=096061 W_C=仪表 G_C=N E_C= W
7、_E=meter G_E=N E_E= DEF=tool|用具,*measure|测量,三、词义的表征及其可计算性 义原表征方式及其可计算性,http:/ 描述公式: “义原顺序特殊符号分隔符” 包括1500个左右的“义原”,符号(*,%,$,#,&)和标点(=,)。 特点 概念定义形式化,描述复杂度低,一致性好。 便于计算。 是一个能描述概念及概念属性之间关系的语义网络。 便于推理。,三、词义的表征及其可计算性 义原表征方式及其可计算性,http:/ 可计算性及其实现 义原空间+概念描述的公式化=很强的可计算性。 面向不同的应用其可计算性的实现方法不同 机器翻译:词语相似度的计算 信息检索:
8、词语相似度的计算 句法结构消歧:词语间的关联度计算 词义消歧:词语间的关联度计算 自动问答系统:语义推理计算,三、词义的表征及其可计算性 义原表征方式及其可计算性,http:/ 在知网中,对描述概念的义原表达式的不同理解和运用,会形成不同的相似度、关联度或推理求解的计算方法。 词语相似度的计算 语义表达式分解成四个部分: (1)第一基本义原描述式; (2)辅助基本义原描述式; (3)关系义原描述式; (4)符号义原描述式。,三、词义的表征及其可计算性 义原表征方式及其可计算性,http:/ sim1(C1,C2), sim2(C1,C2), sim3(C1,C2) ,sim4(C1,C2) 则
9、词C1和C2的总体相似度可计算如下:,其中,i(1i4)是可调节的参数,且有:1+2+3+4=1,1234。反映了Sim1到Sim4对于总体相似度所起到的作用依次递减。,三、词义的表征及其可计算性 义原表征方式及其可计算性,http:/ :,式中,p1和p2分别表示两个概念的第一基本义原,d为两个义原在树状义原层次结构中的路径距离,为一个可调节的参数,表示两个义原的相似度为0.5时,其在义原层次结构树中的路径距离,是为计算参数d而做的标定和补充。,三、词义的表征及其可计算性 义原表征方式及其可计算性,http:/ 反映的是两个词语互相关联的程度,可以用这两个词语在同一个语境中共现的可能性来衡量
10、。 一般情况下,两个词语的相似度高,其相关度也较高,但两个词的相关度高,其相似度却未必高。 知网中的义原分为6大类,每一类都是树状结构,各类之间又通过解释义原相互联系,义原树中的上下位关系构成了义原的相似度,义原与解释义原的关系形成了义原的关联度。,三、词义的表征及其可计算性 义原表征方式及其可计算性,http:/ 义原表征方式及其可计算性,http:/ 义原表征方式及其可计算性,http:/ Sim(Cei,Cj) (1i,j2,ij),利用义原同现实现词义消歧 在词义消歧中,直接通过计算多义词所在语句的义原同现概率,并经过互信息的选择来确定多义词的词义,这种思路比上面的计算相似度的方法要简
11、单。,这里,Cei为第i个义项的实例单词集合中的任一个词的义项。,三、词义的表征及其可计算性 义原表征方式及其可计算性,http:/ 意义训释表征方式及其可计算性 义原表征方式及其可计算性 概念依存关系表征方式及其可计算性 由可计算性看表征方式对词义消歧的作用 结论,三、词义的表征及其可计算性,http:/ 表征方式 人脑对词语的组织与普通词典不同,上下位关系,人脑:按词义信息来组织词语,可建立起各种概念间的依存关系,便于推理,普通词典:按照字母顺序来 组织词语,三、词义的表征及其可计算性 3.4 概念依存关系表征方式及其可计算性,http:/ 同义关系 反义关系 上下位关系 部分整体关系 时
12、间关系 位置关系 相近关系 ,三、词义的表征及其可计算性 概念依存关系表征方式及其可计算性,http:/ WordNet - Princeton大学 FrameNet -California大学Berkeley分校 MindNet -Microsoft CCD -北京大学 ,三、词义的表征及其可计算性 概念依存关系表征方式及其可计算性,http:/ 概念形式化、具体化,通过词汇意义对其进行计算和操作,建立起概念之间的多种语义联系和推理,增强机器可计算性,实现自动语义推理,三、词义的表征及其可计算性 概念依存关系表征方式及其可计算性,http:/ 可计算性及其实现 可计算性的体现 Wordnet
13、或CCD被组织成一种树形图。可计算性的实现主要通过概念间的层次关系树来实现。 树中的每个节点代表一个概念,两个节点之间的路径长度可被用来表示两个概念的语义距离。通过语义距离实现词语相似度的计算。 不同的应用需求其可计算性的体现方法不一样。,三、词义的表征及其可计算性 概念依存关系表征方式及其可计算性,http:/ 根据WordNet中词节点间上下位关系构成的最短路径实现计算 根据两个词的公共祖先节点的最大信息量来衡量两个词的语义相似度; 除了利用WordNet节点间的路径长度外,还考虑概念层次树的深度 利用WordNet节点间的路径长度和节点所在的区域密度,考虑了WordNet中概念描述粗细程
14、度不均匀的因素 利用wordnet的同义词集、属类词和意义解释三个集合中抽取出候选同义词的词汇语义特征,两概念的相似度可通过计算其在三个不同意义特征空间中的距离来得到。,三、词义的表征及其可计算性 概念依存关系表征方式及其可计算性,http:/ 设s1,s2为词语w1和w2在wordnet中对应的词义,考虑wordnet中概念结点间的路径长度以及各概念在树中的深度,则词语w1和w2间的语义距离SD可按下式计算,式中,ca表示词语w1和w2之义项s1,s2在wordnet中的共同祖先概念节点,Dis函数表示两个概念在wordnet中位置之间的路径长度。,三、词义的表征及其可计算性 概念依存关系表
15、征方式及其可计算性,http:/ 概念依存关系表征方式及其可计算性,http:/ 意义训释表征方式及其可计算性 义原表征方式及其可计算性 概念依存关系表征方式及其可计算性 结构性词典 由可计算性看表征方式对词义消歧的作用 结论,三、词义的表征及其可计算性,http:/ 结构性词典,语法信息词典、语义词典是一种结构性词典。 结构性词典中蕴含了丰富的语法和语义信息,便于采用数据挖掘算法实现。 易于采集的知识,使其应用词义消其具有很好的作用。,http:/ 意义训释表征方式及其可计算性 义原表征方式及其可计算性 概念依存关系表征方式及其可计算性 结构性词典 由可计算性看表征方式对词义消歧的作用 结论
16、,三、词义的表征及其可计算性,http:/ 1) 他因病毒感染而发烧。 2)这台机器由于感染病毒而瘫痪。 1)生活是生命的现在进行式,把握当下,因为现在 就是未来! 2)紧紧把握方向盘。,三、词义的表征及其可计算性 3.5由可计算性看词义表征方式在词义消歧中的作用,http:/ 设词语 W 有 N 个词义,在特定的上下文环境C 中只有 S是正确的词义,每个词义 Sk 和上下文 C 存在关系 R(Sk|C),词义消歧就是寻求同C关系最强的词义S:,计算机是依据上下文知识来消歧的。,三、词义的表征及其可计算性 由可计算性看词义表征方式在词义消歧中的作用,http:/ 余晓峰利用知网中的语义原语,通
17、过词语相似度计算实现词义消歧试验 取多义词上下文前后各一个实词计算相似度时,词义消歧正确率为37.3%; 取句中除多义词以外的所有实词参与相似度计算时,词义消歧正确率为42.06%。 张国清利用知网的义原表达式,计算多义词各义项的义原与其上下文中其它词的义原同现概率,再利用互信息来实现多义词歧义消解,取得了71%的消歧正确率。,三、词义的表征及其可计算性 由可计算性看词义表征方式在词义消歧中的作用,http:/ = 我们做什么? 统计方法的缺点:没有充分利用语句中的词义信息;数据稀疏问题 我们的研究:将统计语言模型和语法信息词典、语义词典、Hotnet等资源相结合,建立基于多种知识资源的词义消
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 大学课件 大学 课件 面向 综合 语言 知识库 建设 汉语 词义 标注 模型 研究
链接地址:https://www.31doc.com/p-3026262.html