汉字编码.ppt
汉字编码,1,汉字编码,汉字编码,2,汉字编码现状及其根源,多种编码方案共存，不利于交流和共享 新旧标准同台使用，需相互转换 统一标准正在形成 中、日、韩、新等多国同时使用汉字 简繁体汉字并存 地区、国家间的文化、政治差异增加了汉字统一编码的难度,汉字编码,3,主要汉字(文字)编码标准与规范,ASCII(英文) GB2312 GBK GB13000 GB18030 BIG5 Shift_JIS ISO/IEC 10646 Unicode,汉字编码,4,汉字的几种通行名称,Hanzi,Hantsu,汉字 Ideographic character,表意字符，中文字符 Kanji-日文中的叫法 Hanja-朝鲜文中的叫法 CJK-中日韩通用字符集 Unihan,汉字编码,5,ASCII码,美国信息交换标准编码(“美标”) 用从0到127的128个数字来代表信息的规范编码 包括33个控制码，一个空格码，和94个形象码 形象码中包括了英文大小写字母，阿拉伯数字，标点符号等 国际上大部分电脑的通用编码,汉字编码,6,文本文件与二进制文件,字符大都是用一个八位二进制数字表示，美标只规定了128个编码，剩下的另外128个数码没有规范，美标中的33个控制码，各厂家用法也不尽一致 文本文件(ASCII Text Files) ：美标形象码或空格码组成，通常可在不同电脑系统间直接交换 二进制文件(Binary Files) ：含有控制码或非美标码的文件，通常不能在不同电脑系统间直接交换,汉字编码,7,国标、区位、“准国标” 、机内码,国标：中华人民共和国国家标准信息交换用汉字编码 国标(GB2312-80)表（基本表）把七千余汉字、以及标点符号、外文字母等，排成一个94行、94列的方阵 每一横行叫一个“区”，每个区有九十四个“位” 一个汉字在方阵中的坐标，称为该字的“区位码” 例如“中”字在方阵中处于第区第位，它的区位码就是5448,汉字编码,8,区位码表,区位码来源于信息交换用汉字编码字符集（基本集）国家标准(GB2312-80)，该标准收汉字6763个，第一级3755个，位于16至55区，55区的最后5个字符没有定义；第二级3008个，位于56至87区 第一级汉字按照汉语拼音字母顺序排列，同音字以笔形顺序横（一）、直（丨）、撇（丿）、点（丶）、折（乙）为序。起笔相同按第二笔，依次类推。 第二级汉字按部首排序，本标准采用的部首与一般字典用的部首基本相同，略有改变。部首次序及同部首字按笔划数排列，同笔划数的字以笔形顺序横（一）、直（丨）、撇（丿）、点（丶）、折（乙）为序。起笔相同按第二笔，依次类推。 查表时先查区号，再查行、列，例如：“、”是0102，“蔼”是1610。,汉字编码,9,例,汉字编码,10,例,汉字编码,11,例,汉字编码,12,例,汉字编码,13,例,汉字编码,14,例,汉字编码,15,国标、区位、“准国标”、机内码,94:美标中形象码的总数,33-126 汉字区、位码各加上32，就会与美标形象码的范围重合,称为该字的“国标码”,与其相对应的两个美标符号，为该字的“国标符” 如何区分国标符与美标符：国标码的两个数字各加上128，称“准国标”或“机内码” 机内码=（区位码）H + 8080H +2020H,汉字编码,16,BIG5码,针对繁体汉字的编码，在台湾、香港的电脑系统中得到普遍应用,汉字编码,17,ISO/IEC 10646,一个国际标准编号,国际标准化组织（ISO）1993年正式颁布 英文全称：Information technology - Universal Multiple - Octet Coded Character Set,简称UCS 中文全称：信息技术-通用多八位编码字符集，亦称大字符集 宗旨:全球所有文种统一编码,汉字编码,18,Unicode,英文Universal Code的缩略语 统一编码 是对国际标准ISO/IEC 10646编码的一种称谓 是一个企业联盟集团的名称,由美国的HP、Microsoft、IBM、Apple等几家知名的大型计算机企业所组成,成立该集团的宗旨就是要推进多文种的统一编码 就内容而言，Unicode和ISO/IEC 10646是一致的，并行的,汉字编码,19,CJK-中日韩统一汉字,把中国、日本与韩国的英文称谓的首字母用于ISO/IEC 10646中的中、日、韩统一编码汉字的简称 Unihan CJKV或许更准确，V代表越南,汉字编码,20,ISO/IEC 10646 的体系结构,四维的编码空间 总体上分为128个三维组（group）, group的值范围是从00到7F 每一组包含256个平面(plane)，每一个平面包含256行(row)，每一行包含256个字位(cell)，又称为“列”,plane、row、cell的值范围都是从00到FF全编码 整个编码字符集的每个字符都是由4个八位序列表示,(按照组八位、面八位、行八位、列八位的顺序) 可编码空间为：128X256X256X256=32KX64K,汉字编码,21,ISO/IEC 10646体系结构图,汉字编码,22,基本多文种平面,第一个平面（00组中的00平面）称作Basic Multilingual Plane(基本多文种平面)，简称BMP，并在其上规定了双八位形式，它可以作为双八位编码字符集使用,即在此平面上仅用行、列两个八位就可以表示一个编码字符,汉字编码,23,BMP的最新概貌,A-Zone(00至4D行) ：拼音文字编码区,拉丁文、阿拉伯文、日文的平假名及片假名、数学符号等都在此区域编码 CJK Unified Ideographs，Extension A(3400-4DB5)(6000多码位 ) CJK Unified Ideographs(4E00-9FA5)(20902个编码汉字 ) 韩文 (AC至D7这44行（44X256=11264）) S-ZONE (D8至DF行)for UTF-16 R-Zone(E0至FF行):限制使用区，一些兼容字符、字符的变形显现形式、特殊字符等均放在此区,汉字编码,24,ISO/IEC 10646空间分配现状,00平面:BMP，被用于全球现已规范语种的基本文字编码，编码空间已基本饱和 01平面:作为拼音文字辅助平面 02平面:作为汉字辅助平面，CJK Extension B即将放入该平面 E0至FF平面:作为该标准的专用平面来使用 其它空间尚未分配,汉字编码,25,ISO/IEC 10646中CJK汉字组成,CJK统一编码汉字（20902） CJK扩充集A(6585) CJK扩充集B(4万-),汉字编码,26,什么是UTF?,Unicode transformation format UCS transformation format 从Unicode码点到唯一字节序列的映射算法，一一映射，保证无损转换,汉字编码,27,UTF-16,Unicode标准的16位编码形式 为每个字符指定一个16位的值 编码形式与ISO/IEC 10646中的定义形式相同 以一个16位的值来编码映射到不大于65535数值的字符，映射到大于65535的数值的字符则被编码成一组16位的值（代用对）,汉字编码,28,UTF-8,为满足面向字节、基于ASCII码系统的需要而制定(主要用于数据传输、互联网) 用最多达4个字节的序列来表示每个字符，为有效分析字符串，用第一个字节指明某个多字节序列中的字节数 通常用于数据交换,汉字编码,29,UTF-32,每个字符都表示成一个32位的整数 码长相等，便于某些特殊情况的处理 Unix系统使用,汉字编码,30,字节顺序标记(BOM),指示处理器怎样把连续的文本放到一个字节序列中 权值最低的字节位于开头叫做“little-endian”,权值最高的字节位于开头叫做“big-endian” 可用作识别文本文件编码形式的依据,汉字编码,31,Windows对Unicode的支持,Windows 3.1, Windows NT 4, Windows 2000, Windows XP支持Unicode.如果在这些操作系统上运行非Unicode编码程序，在处理之前，操作系统在其内部将应用程序的文本转化为Unicode编码的文本，在把信息传回应用程序之前，操作系统把Unicode编码的文本转化回所希望的代码页编码形式。 Windows 95, Windows 98, Windows Me不是基于Unicode的，它们只提供了基于Windows NT的Windows版本所提供的Unicode支持的一个子集,汉字编码,32,GBK,汉字内码扩展规范，Rules/Specifications defining the extensions of internal codes for Chinese ideograms 为了推进Unicode的实施，同时也是为了向下兼容,由电子部与国家技术监督局联合颁布 在保持GB2312原貌的基础上，将其字汇扩充与ISO 10646中的CJK等量，同时也包容了台湾的工业标准Big5码汉字，此外还为用户留了1894个码位的自定义区,汉字编码,33,GB18030-2000,信息技术-信息交换用汉字编码字符集-基本集的扩充，Information technology-Chinese ideograms coded character set for information interchange-Extension for the basic set GBK的替代、超集,汉字编码,34,GB18030-2000,完全包含CJK(Unihan) Extension A 与GBK完全兼容(code- and character- compatible)的同时，为所有其它Unicode码点提供了空间 定义了4字节编码机制,汉字编码,35,GB18030-2000码位范围分配表,2字节编码共23940个码位 4字节编码共超过150万个码位,汉字编码,36,ISO 10646/Unicode的实现及其重要意义,在全球范围内建立起实时、无障碍的信息交换模式 推动了汉字典籍的数字化 为数字化图书馆的建立铺平了道路 为弘扬汉字文化提供了舞台 Single Binary技术的诞生：同一套基本程序用于多个语言环境的技术 使汉字关联活起来：正-异关联、中-日关联、繁-简关联，正-讹关联以及古今、新旧字形关联,
