智能技术.ppt
《智能技术.ppt》由会员分享,可在线阅读,更多相关《智能技术.ppt(103页珍藏版)》请在三一文库上搜索。
1、智能技术,普通高校本科计算机专业特色教材精选 曹承志 编著,总 目 录,第1章 概论 第2章 知识表示技术 第3章 知识推理技术 第4章 模糊逻辑技术 第5章 神经网络技术 第6章 遗传算法,总 目 录,第7章 专家系统 第8章 机器学习,第8章 机器学习,8.1 机器学习的基本概念 8.2 机械学习 8.3 指导学习 8.4 类比学习 8.5 归纳学习 8.6 解释学习 8.7 知识发现与数据挖掘 8.8 学习控制系统,8.1 机器学习的基本概念,8.1.1 什么是机器学习 8.1.2 学习系统 8.1.3 机器学习的主要策略 8.1.4 机器学习系统的基本结构,8.1.1 什么是机器学习,
2、1. 学习 机器学习的核心是学习,关于学习至今还没有一个精确的、能被公认的定义。目前,对学习这一概念研究的观点主要有以下几种: 按照人工智能大师西蒙的观点,学习就是系统在不断重复的工作中对本身能力的增强或改进,使得系统在下一次执行同样任务或类似任务时,会比现在做得更好或效率更高。 从事专家系统研究人们的观点,学习就是获取知识的过程。由于知识获取一直是专家系统建造中的主要问题之一,因此希望通过对机器学习的研究,实现对知识的自动获取。, 心理学家对于学习活动有不同的见解,大致分为三派:一派主张学习是条件反射作用;一派主张学习是刺激与反应的联结;一派提出“领悟说”,认为学习是重新组织已有的知觉、经验
3、,掌握与领悟情景中各因素间的新关系,导致问题解决。 工程控制专家蔡普金的观点,学习是一种过程,通过对系统重复输入各种信号,并从外部校正该系统,从而系统对特定的输入作用具有特定的响应;自学习就是不具外来校正的学习,即不具奖罚的学习,它不给系统响应正确与否的任何附加信息。 综合上述观点可以认为:学习是一个有特定目的的知识获取过程,其内在行为是获取知识、积累经验直至发现规律;其外部表现是改进性能、适应环境和实现系统的自我完善。,2. 机器学习 机器学习是研究如何使用计算机来模拟人类学习活动的一门学科。稍严格的提法是,机器学习是一门研究计算机获取新知识和新技能并识别现有知识的方法。 机器学习的研究工作
4、主要从以下三个方面进行:学习机理的研究,通过对人类获取知识技能和抽象概念能力的研究,将从根本上解决机器学习中存在的种种问题;学习方面的研究,通过对人类的学习过程、各种可能的学习方法的探索研究,建立起独立于具体应用领域的学习算法;面向任务的研究,通过对特定任务要求的研究,建立起相应的学习系统。,8.1.2 学习系统,所谓学习系统,是指能在一定程度上实现机器学习的系统。1973年萨里斯的定义是:学习系统是一个能够学习有关过程的未知信息,并用所学信息作为进一步决策和控制的经验,从而逐步改善系统的性能。类似的定义是:若一个系统能够学习某一过程或环境的未知特征固有信息,并用所得经验进行估计、分类、决策或
5、控制,使得全系统的品质得到改善,则称该系统为学习系统。,一个学习系统应具有如下的条件和能力:,1 适当的学习环境。这里所说的环境是指学习系统进行学习时的信息来源,若学习系统不具有适当的环境,则它就失去了学习和应用的基础,不能实现机器学习。对不同的学习系统及不同的应用,其环境一般是不相同的。 2 具有一定的学习能力。除了上述的学习环境,为要从中学到有关信息,它还必须有合适的学习方法及一定的学习能力。学习过程是系统与环境相互作用的过程,是边学习、边实践,然后再学习、再实践的过程。学习系统也是通过与环境相互作用逐步学到有关知识的,而且在学习过程中要通过实践验证、评价所学知识的正确性。 3 能应用学到
6、的知识求解问题。学习系统应能把学到的信息用于未来的估计、分类、决策或控制,做到学以致用。 4 能提高系统的性能。学习系统通过学习应能增长知识,提高技能,改善系统的性能,使它能完成原来不能完成的任务,或比原来做得更好。,8.1.3 机器学习的主要策略,学习是一项复杂的智能活动,学习过程与推理过程二者紧密相连,学习中使用的推理方法称为学习策略。学习系统中的推理过程实际上就是一种变换过程,它将系统外部提供的信息变换为符合系统内部表达的形式,以便对信息进行存储和使用。这种变换的性质决定了学习策略的类型为:机械学习、通过传授学习、类比学习和通过事例学习。, 机械学习。它就是记忆,是最简单的学习策略。这种
7、学习策略不需任何推理过程;外界输入的知识表示方式与系统内部表示方式完全一致,不需要任何处理与转换。虽然机械学习在方法上看似简单,但由于计算机的存储容量相当大,检索速度又相当快,且记忆精度无丝毫误差,所以也能产生难以预料的效果。 通过传授学习。对于使用该种策略的系统来说,外界输入知识的表达方式与内部表达方式不完全一致,系统接受外部知识时需要一点推理、翻译和转化的工作。 类比学习。该系统只能得到完成类似任务的有关知识,即在遇到新的问题时,可学习以前解决过的相类似问题的解决办法,来解决当前的问题。所以寻求与当前问题相似的已知问题就很重要,并且必须要能够发现当前任务与已知任务的相似之点,由此制订出完成
8、当前任务的方案。因此,它比上述两种学习策略需要更多的推理。 通过实例学习。系统事先完全没有完成任务的任何规律性的信息,所得到的只是一些具体的工作例子及工作经验。系统需要对这些例子及经验进行分析、总结和推广,得到完成任务的一般性规律,并在进一步工作中验证或修改规律,因此,它需要的推理是最多的。,8.1.4 机器学习系统的基本结构,以西蒙的学习定义作为出发点,建立起图81所示的机器学习的基本模型,通过对此模型的讨论,总结出设计学习系统时应当注意的一些原则。该模型中包括了四个基本组成环节。环境向系统的学习环节提供某些信息,学习环节利用这些信息修改知识库,以增进系统执行环节完成任务的效能,执行环节根据
9、知识库完成的任务,把获得的信息反映给学习环节。下面对系统中的各个环节进行讨论。,图8-1, 环境。指系统获取知识和信息的来源以及执行对象等。总之,环境就是为学习系统提供获取知识所需的相关对象的素材或信息。一般,高水平的信息比较抽象、适用于更广泛的问题;低水平的信息比较具体、仅适用于个别问题。 学习环节。该环节通过对环境的搜索获得外部信息,并将这些信息与执行环节所反馈回来的信息进行比较。一般情况下,环境提供的信息水平与执行环节所需的信息水平之间往往有差距,经分析、综合、类比和归类等思维过程,学习环节就要从这些差距中获取相关对象的知识,并将这些知识存入知识库中。 3. 知识库。知识库是影响机器学习
10、系统设计的重要因素。知识库中常用的知识表示法有谓词逻辑法、产生式规则法、语义网络法和框架法等。这些表示方法各有特点,在选择表示方法时要考虑以下4个方面:,(1) 表达能力较弱。所选择的知识表示方法要能很容易且较准确的表达有关的知识,不同的表示方法适用于不同的知识对象。 (2) 推理难度的大小。在具有较强表达能力的基础上,为了使学习系统的计算代价比较低,总希望知识表示方法能使推理较为容易。 (3) 知识库修改的难易。 学习系统的本身要求它能不断地修改自己的知识库,当推理得出一般的执行规则后,要把它加到知识库中;当发现某些规则不适用时要能将其删除。因此,学习系统的知识表示,一般都采用明确、统一的方
11、式,以利于知识库的修改。 (4) 知识是否易于扩展。 随着系统学习能力的提高,单一的知识表示法已不能满足需要,一个系统有时同时使用几种知识表示方法,以便于学习更复杂的知识;有时还要求系统自己能构造出新的表示方法,以适应外界信息不断变化的需要。,4. 执行环节。它是整个学习系统的核心,用于处理系统面临的现实问题,即应用知识库中所学到的知识求解问题,并对执行的效果进行评价,将评价的结果反馈回学习环节,以便系统进一步学习。 一般,同执行环节密切相关的问题是: (1) 任务的复杂性。解决复杂的任务比解决简单的任务需要更多的知识。 (2) 反馈信息。当执行环节解决当前问题后,根据执行的效果,要给学习环节
12、一些反馈信息,以便改善学习环节的性能。所有的学习系统必须以某种方式评价执行环节的效果。 (3) 执行过程的透明度。它要求从系统执行部分的动作效果可以很容易地对知识库的规则进行评价。,8.2 机械学习,8.2.1 机械学习的模式 8.2.2 机械学习的主要问题,8.2.1 机械学习的模式,机械学习是最简单的机器学习方法。机械学习就是记忆。即把新的知识储存起来,供需要时检索调用,而不需要计算和推理。机械学习又是最基本的学习过程。任何学习系统都必须记住它们所获取的知识。在机械学习系统中,知识的获取是以较为稳定和直接的方式进行的,不需要系统进行过多的加工。而对于其它学习系统,需要对各种建议和训练实例等
13、信息进行加工处理后,才能存储起来。,当机械学习系统的执行元件解决完问题之后,系统就记住该问题及其解。可以把系统的执行元件抽象成某个函数F,该函数在得到自变量输入值(X1,X2,Xn)之后,计算并输出函数值(Y1,Y2,Yp)。若经过评价得知该计算是正确的,则把联想对: (X1,X2,Xn),(Y1,Y2,Yp) 存入知识库中。以后再次需要F(X1,X2,Xn)时,系统的执行机构就直接从知识库中把(Y1,Y2,Yp)检索出来而不是重新计算它,这种简单的学习模式如下: (X1,X2,Xn) (Y1,Y2,Yn) (X1,X2,Xn),(Y1,Y2,Yp),假设要设计一个汽车修理成本估算保险程序,它
14、的输入信息是有关待修理汽车的描述,包括制造厂家、出厂日期、车型、汽车损坏的部位以及它的损坏程度,输出则是该汽车的修理成本。为了进行估算,系统必须在其知识库中查找同一厂家、同一出厂日期、同一车型、同样损坏情况的汽车,然后把知识库中对应的数据作为修理成本的估算数据输出给用户。若在系统的知识库中没有找到这样的汽车,则系统使用保险公司公布的赔偿规则估算出一个修理费用,并得到确认,然后把该车的描述与估算出的费用存储到知识库中,以便将来查找使用。 机械式学习实质上是用存储空间来换取处理时间,所以在机械学习中要全面权衡时间与空间的关系,这样才能取得较好的效果。,8.2.2 机械学习的主要问题, 存储结构 只
15、有检索一个项目的时间比重新计算一个项目的时间短时,机械学习才有意义,检索得越快,其意义也就越大,因此,采用适当的存储结构,使检索速度尽可能快,是机械学习中的重要问题。在数据结构与数据库领域,为提高检索速度,人们研究了许多卓有成效的数据存储方式,如索引,排序,杂凑等,在机械学习中可充分利用这些成果。, 环境的稳定性和存储信息的适用性 使用机械学习时,总是认为保存的知识或信息以后仍然有效,若环境急剧变化,保存的知识和信息就会失效而不能再使用。例如,知识库存储的是二十世纪九十年代计算机的配置及价格,就不能用它来估计二十一世纪当前的计算机的配置及价格,因为计算机发展得太快了,它的配置和价格目前都已发生
16、了很大的变化。解决这一问题的办法就是随时监视环境的变化,不断更新知识库中保存的信息或知识。, 存储与计算间的权衡 因为机械学习的根本目的是改进系统的执行能力,因此对机械学习来说很重要的一点是它不能降低系统的效率。这种存储与计算之间的权衡问题有两种解决方法:一种方法是估算一下存储信息所要花费的存储空间以及检索信息时所花费的时间,然后将其代价与重新计算所花的代价进行比较,再决定是否存储信息;另一种方法是把信息先存储起来,但为了保证有足够的检索速度,限制了存储信息的量,系统只保留那些最常使用的信息,“忘记”那些不常使用的信息,这种方法也叫“选择忘却”技术。,8.3 指导学习,指导学习又称嘱咐学习或教
17、授学习,在这种学习方式下,有外部环境向系统提供一般性的指示或建议,系统把它们具体地转化为细节知识并送入知识库中。在学习过程中要反复对形成的知识进行评价,使其不断完善。一般说来,指导学习的过程大体由下列步骤组成:, 征询指导者的指示或建议 其征询方式可以是简单的,也可以是复杂的;既可以是主动的,又可以是被动的。所谓简单征询是指由指导者给出一般性的意见,系统将其具体化;所谓复杂征询是指系统不仅要求指导者给出一般性的建议,而且还要具体地鉴别知识库中可能存在的问题,并给出修改意见;所谓被动征询是指系统只是被动地等待指导者提供意见;所谓主动征询是指系统不只是被动的接受指示而且还能主动地提出询问,把指导者
18、的注意力集中在特定的问题上。为了实现征询,系统应具有识别、理解自然语言的能力,这样才能使系统直接与指导者进行对话。, 把征询意见转换为可执行的内部形式 征询意见的目的是为了获得知识,以便用这些知识求解问题。为此,学习系统应具有把用约定形式表示的征询意见转化为计算机内部可执行形式的能力,并且能在转化过程中进行语法检查及适当的语义分析。 并入知识库 经转化后的知识就可并入知识库,在并入过程中要对知识进行一致性检查,以防止出现矛盾、冗余、环路等问题。, 评价 为了检验新并入知识的正确性,需要对它进行评价。最简单也是最常用的评价方法是对新知识进行经验测试,即执行一些标准例子,然后检查执行情况是否与已知
19、情况一致。若出现不一致,则表示新知识中存在某些问题,此时可把有关信息反馈给指导者,请他给出另外的指导意见。 指导学习是一种比较实用的学习方法,可用于专家系统的知识获取。它即可以避免由系统自己进行分析、归纳从而产生新知识所带来的困难,又无需领域专家了解系统内部的知识表示和组织的细节,因此目前应用较多。,8.4 类比学习,8.4.1 类比推理 8.4.2 属性类比学习 8.4.3 转换类比学习,8.4.1 类比推理,所谓类比推理是指,由于新情况与记忆中的已知情况在某些方面相似,从而推出它们在其它相关方面也相似。例如,有人说张三是个活雷锋,你立刻就可知道张三是个乐于助人的人。原因是你把张三的行为和雷
20、锋的行为进行了类比,张三是个什麽样的人已在头脑中形成。显然,类比推理是在两个相似域之间进行的:一个是已经认识的域,称为原域S,它包括过去曾经解决过得相类似的问题以及相关的知识;另一个是当前尚未完全认识的域,称为目标域T,它是遇到的新问题。类比推理的目的是从S中选出与当前问题最近似的问题及其求解方法来求解当前问题,或者建立起目标域中已有命题间的联系,形成新知识。,类比推理的过程可分为以下四步: 回忆与联想。 选择。 建立对应关系。 转换。 以上每一步都有一些具体的问题需要解决,下面将结合两种具体的类比学习方法进行讨论。,8.4.2 属性类比学习,属性类比学习是根据两个相似事物的属性实现类比学习的
21、。该系统中源域和目标域都是用框架表示的,框架的槽用于表示事物的属性,其学习过程是把源框架中的某些槽值传递到目标框架的相应槽中去,此种传递分为两步: 利用源框架产生推荐槽,这些槽的值可传送到目标框架; 利用目标框架中已有的信息来筛选由第一步推荐的相似性。,8.4.3 转换类比学习,转换类比学习方法又称为“中间结局分析”法,是纽厄尔等人在其完成的通用求解程序GPS(general problem solver)中提出的一种问题求解模型,它求解问题的基本过程是: 把问题的当前状态与目标状态进行比较,找出它们之间的差异。根据差异找出一个可减小差异的算符。 若该算符可作用于当前状态,则用该算符把当前状态
22、改变为另一个更接近于目标的状态;若该算符不能作用于当前状态,即当前状态所具备的条件与算符所要求的条件不一致,则保留当前状态,并生成一个子问题,然后对此子问题再应用此法。 当子问题被求解后,恢复保留的状态,继续处理原问题。,转换类比学习由外部环境获得与类比有关的信息,学习系统找出和新问题相似的与旧问题有关的知识,并把这些知识进行转换使之适用于新问题,从而获得新的知识。 转换类比学习主要由回忆过程和转换过程组成。 回忆过程用于找出新、旧问题间的差别,包括: 新、旧问题初始状态的差别; 新、旧问题目标状态的差别; 新、旧问题路径约束的差别; 新、旧问题求解问题可应用度的差别。 由这些差别就可求出新、
23、旧问题的差别度,其差别度越小,表示两者越相似。 转换过程把旧问题的求解方法经适当变换后,使之成为求解新问题的求解方法。变换时,其初始状态是与新问题类似的旧问题的解,即一个算符序列,目标状态是新问题的解。变换中要用“中间结局分析”法来减少目标状态与初始状态间的差异,使初始状态逐步过渡到目标状态,即求出新问题的解。,尽管人类表现出具有从任何任务中吸取经验的普遍能力,而且类比学习具有很多优点,但是,由于类比学习是一种深层知识的学习行为, 它需要大量的领域知识,如何表示和检索这些领域知识是一项相当棘手的任务;另外,类比学习不应该作为一种孤立的学习行为而存在,多个类比的结合以及类比和理论知识的结合会更易
24、解决面临的问题;还有,类比本身存在着模糊的、不确定的因素,要在形式系统的范畴下解决类比有效性的问题,是相当困难的。因此,成功的类别学习系统还不多。,8.5 归纳学习,8.5.1 实例学习 8.5.2 观察与发现学习,8.5.1 实例学习,实例学习又称示例学习或通过示例学习,它是通过从环境中取得若干与某概念有关的例子(包括正例和反例),经归纳得出一般性概念或规则的学习方法。例如,学习程序要学习“牛”的概念,可以先提供给程序以各种动物,并告知程序哪些动物是“牛”,哪些不是“牛”,系统学习后便概括出“牛”的概念模型或类型定义,利用这个类型定义就可作为动物世界中识别“牛”的分类准则。又如,教给一个程序
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 智能 技术
链接地址:https://www.31doc.com/p-2800534.html