模糊集合的模糊程度——模糊熵.ppt
四、模糊集合的模糊程度模糊熵,四、模糊集合的模糊程度模糊熵,A的模糊熵E(A)，在单位超立方体In中从0到1，其中顶点的熵为0，表明不模糊，中点的熵为1，是最大熵。从顶点到中点，熵逐渐增大。简单地从几何图形上来考虑可以得到熵的比例形式：,熵是一个一般性的概念，它度量了一个系统或一段信息的不确定性。 模糊熵描述了一个模糊集的模糊性程度。 一般的定义1： （1）分明集是不模糊的，则分明集的模糊熵为0； （2）1/2是隶属性最难确认的模糊集，1/2的模糊性应最大 （3）模糊集A与 距1/2的1远近程度是相同的，则要求A与 的模糊程度一样 （4）模糊集A的模糊性应具有单调变化的性质，即A越接近1/2,A的模糊性越大； A越远离1/2,A的模糊性越小 。,四、模糊集合的模糊程度模糊熵,模糊熵定理：,模糊熵定理的几何图示。由对称性，完整模糊方形的四个点到各自的最近顶点、最远顶点的距离都相等。该定理正式宣告了“西方逻辑”的终止。（ ）,四、模糊集合的模糊程度模糊熵,k0是常数 很多文章是用这个定义来求模糊熵,另外的一种定义（类似于信息论中熵的定义）,四、模糊集合的模糊程度模糊熵,五、模糊集合间的包含关系包含度定理,主导隶属度函数关系(dominated membership function relationship)：,如果A=(.3 0 .7)和B=(.4 .7 .9)，那么A就是B的一个模糊子集，但B不是A的模糊子集。显然，这种模糊包含度是非模糊的，它是非黑即白的,是二值定义下的子集性(Zadehs1965)。,1.模糊子集的几何表示 B的所有模糊子集构成集合模糊幂集F(2B)，它构成了在单位超立方体中倚着原点的规则的超长方形，其边宽等于各隶属度值mB(xi) 。可以用Lebesgue测度或体积V(B)来度量F(2B)的大小，其中，体积V(B)为隶属度值的乘积：,五、模糊集合间的包含关系包含度定理,图7.7,2.包含度定理： 在图7.7中，点A可以是长方形内的点，也可以不是。在长方形F(2B)外不同的点A是B的不同程度的子集。而上述二值定义下的子集性忽略了这一点。考虑到集合A属于F(2B)的不同程度，通过抽象隶属度函数来定义包含度： S(.,.)在0,1之间取值，其代表了多值的子集测度（包含度），是模糊理论中的基本的、标准的结构。,五、模糊集合间的包含关系包含度定理,度量S(.,.)的两种方法： (1)代数方法: 即失配法(fit-violation strategy) 假定X包含有100个元素：X=x1,x100。而只有第一个元素违背了主导隶属度函数关系，使得mA(x1)mB(x1)。直观上，我们认为A很大程度上是B的子集。可以估算，子集性为S(A,B)=0.99，并且，如果X包括1兆个元素，A几乎完全是B的子集了。可见失配的幅度mA(x1)-mB(x1)越大，失配的数目相对于模糊集A的大小越多，那么A就越不能算是B的子集，或者说，A就越象是B的超集。直观上有：,五、模糊集合间的包含关系包含度定理,失配数的计算： max(0,mA(x)-mB(x) 归一化之后得到超集的最小度量：,包含度为：,五、模糊集合间的包含关系包含度定理,这种包含度满足主导隶属度函数关系，当 时，S(A,B)=1。如果S(A,B)=1，则分子被加数应都为0，因此主导隶属度函数关系都满足。反之，当且仅当B是空集时， S(A,B)=0。而空集本来就无法包含集合，无论是模糊集还是非模糊集。在这两种极端情况之间，包含度的大小为： 0 S ( A, B ) 1 考虑匹配矢量A = (.2 0 .4 .5)和B = (.7 .6 .3 .7)。A几乎是B的子集，但不完全是，因为 所以， 类似可得：,五、模糊集合间的包含关系包含度定理,(2)几何方法： 在图7.7中， 集合A或是位于F(2B)内, 或是在外头。直觉上，当A接近F(2B)时, S(A,B)应接近于1，当A远离F(2B)时, S(A,B)应该减小。 那么A与F(2B)之间的距离如何计算？,五、模糊集合间的包含关系包含度定理,图7.7,寻找B*(A位于F(2B)外): 通过F(2B)边线的直线延伸，将超立方体In分割成2n个超长方形。他们分为混合的或是纯的主值隶属度。非子集A1, A2 , A3, 分别位于不同的象限。通过F(2B）与A1, A3的范数距离，分别找到与西北和东南象的点A1, A3距离最近的点B1*和B3*。而离东北象限中的点A2距离最近的点B*就是B自身。由此可证得一般性勾股定理。且这种“正交”优化情况表明d(A,B)就是lp直角三角形的斜边。,五、模糊集合间的包含关系包含度定理,以B为中心的l1范数区域呈钻石形。A1和A2到F(2B)等距，但A1比A2离B更近。而同时，M(A1)M(A2)。 可见，包含度依赖于基数M(A)。考虑归一化，进一步猜测：,定义超集度为： d(A,F(2B)=d(A,B*) 为了保证其值在(0,1)之间变化,要进行归一化处理，该常数等于最大的单位立方体距离，l1情况下值为n: S(A,B)=1-d(A,B*)/n 这种度量存在的问题：,五、模糊集合间的包含关系包含度定理,（图7.9）,假定p=1，令 正交性表明： 设 其充要条件是没有失配现象发生，恒有 。 所以,设 其充要条件是有失配现象 发生，这时，,综上：,五、模糊集合间的包含关系包含度定理,这种证明方法同样给出了优化子集B*的一个更重要的性质： 因为如果有一个失配关系，那么 ， 所以 ，其余的 ，所以 故 。,B*是具有双重优化特性的点，它既是离A最近的B 的子集，也是离B最近的A的子集A*:,五、模糊集合间的包含关系包含度定理,包含度定理：,推导相对频率：,五、模糊集合间的包含关系包含度定理,五、模糊集合间的包含关系包含度定理,包含度定理的一些推论,结论: fuzzy theory extends probability theory,如何用模糊集合间的关系表征某个模糊集合的模糊程度 包含度是模糊中最基本的有代表性的一个数值 熵-包含度定理：,说明： 将包含度定理中的A、B分别用 和 代替，并注意到交集 是并集 的子集，即可证得。,该定理表明了整体是其部分的一部分的程度。,六、熵-包含度定理,图示二维的熵-包含度定理。交集 是并集 的子集。可见长对角线的长度相等，所以并集 到交集 的模糊幂集所构成的超长方形的最优距离d*满足：,六、熵-包含度定理,另外，利用式7-36也可得到该公式。,（7-36）,1 模糊熵应用于图象边缘检测 重庆邮电学院学报 1996 04 2 唐山地震前地震活动模糊熵值的异常特征 华北地震科学 1997 03 3 基于模糊熵与方向相似度的液体火箭发动机故障检测 国防科技大学学报 1998 04 4 一种新的模糊熵图象分割方法 信号处理 1998 03 5 用随机模糊熵权方法编制矿井生产计划 辽宁工程技术大学学报(自然科学版) 1999 01 6 基于广义模糊熵的故障特征参数选择 控制与决策 1999 06 7 基于广义模糊熵的液体火箭发动机故障检测研究 宇航学报 1999 01 8 一种基于模糊熵和遗传算法的图像分割方法 上海大学学报(自然科学版) 1999 06 9 一种基于最大模糊熵的高斯聚类算法 电子科技大学学报 2000 03 10 模糊熵的可靠性设计与运用,七、模糊熵的一些应用,11 基于凸多项式模糊熵的图象阈值方法 控制与决策 2000 03 12 基于模糊熵的多目标模糊优选模型及其应用 煤炭学报 2000 04 13 基于模糊熵的安全等级隶属度向量的离散化方法 中国有色金属学报 2000 04 14 一类Vague集模糊熵的构造方法 华中科技大学学报 2001 09 15 用模糊评价法和模糊熵确定拱桥洪水淹没深度 武汉城市建设学院学报 2001 01 16 关于Vague集的模糊熵及其构造 计算机应用与软件 2002 02 17 数据挖掘中决策树加权模糊熵算法 计算技术与自动化 2002 03 18 基于遗传算法的模糊熵图像分割算法 计算机仿真 2002 05 19 不确定性动态军事指挥决策的模糊熵分析 系统工程理论方法应用 2002 03 20 电力系统中长期负荷预测的最大模糊熵模型研究 电力自动化设备 2003 08,21 冀鲁豫交界区地下流体模糊熵值的变化与地震的关系 地震研究 2003 01 22 一种基于代价函数和模糊熵的图像分割方法 光子学报 2003 12 23 基于遗传算法和模糊熵的前视红外图像分割 红外与毫米波学报 2003 06 24 基于Fuzzy集的Vague集的模糊熵 华中科技大学学报(自然科学版) 2003 01 25 模糊决策树中参数对模糊熵的敏感性分析 计算机工程 2003 11 26 基于模糊熵及遗传算法的图像增强技术 农业机械学报 2003 03 27 利用模糊熵进行参数有效性分析的语音情感识别 电路与系统学报 2003 03 28 基于模糊熵聚类和Kalman滤波的区域跟踪 测控技术 2003 11 29 基于极大模糊熵原理的模糊推理三I算法 模糊系统与数学 2003 04 30 “关于Vague集的模糊熵及其构造”的注记 计算机应用与软件 2004 05 31 基于模糊熵的多值图像恢复方法 西安电子科技大学学报 2004 02 32 一种基于小波的图像模糊熵阈值分割算法 红外技术 2004 03,Thank You,参考文献,1范九伦，模糊熵理论西北大学出版社,
