Java 编程技术中汉字问题的分析及解决(转)-JSP教程,Java基础

java 编程技术中汉字问题的分析及解决

段明辉
自由撰稿人
2000 年 11月 8日

内容:

汉字编码的常识

java 中文问题的初步认识

java 中文问题的表层分析及处理

java 中文问题的根源分析及解决

java servlet 中文问题的根源

修改 servlet.jar

中文乱码的处理函数

参考资料

作者简介

在基于 java 语言的编程中，我们经常碰到汉字的处理及显示的问题。一大堆看不懂的乱码肯定不是我们愿意看到的显示效果，怎样才能够让那些汉字正确显示呢？java 语言默认的编码方式是unicode ，而我们中国人通常使用的文件和数据库都是基于 gb2312 或者 big5 等方式编码的，怎样才能够恰当地选择汉字编码方式并正确地处理汉字的编码呢？本文将从汉字编码的常识入手，结合 java 编程实例，分析以上两个问题并提出解决它们的方案。

现在 java 编程语言已经广泛应用于互联网世界，早在 sun 公司开发 java 语言的时候，就已经考虑到对非英文字符的支持了。sun 公司公布的 java 运行环境（jre）本身就分英文版和国际版，但只有国际版才支持非英文字符。不过在 java 编程语言的应用中，对中文字符的支持并非如同 java soft 的标准规范中所宣称的那样完美，因为中文字符集不只一个，而且不同的操作系统对中文字符的支持也不尽相同，所以会有许多和汉字编码处理有关的问题在我们进行应用开发中困扰着我们。有很多关于这些问题的解答，但都比较琐碎，并不能够满足大家迫切解决问题的愿望，关于 java 中文问题的系统研究并不多，本文从汉字编码常识出发，分析 java 中文问题，希望对大家解决这个问题有所帮助。
汉字编码的常识
我们知道，英文字符一般是以一个字节来表示的，最常用的编码方法是 ascii 。但一个字节最多只能区分256个字符，而汉字成千上万，所以现在都以双字节来表示汉字，为了能够与英文字符分开，每个字节的最高位一定为1，这样双字节最多可以表示64k格字符。我们经常碰到的编码方式有 gb2312、big5、unicode 等。关于具体编码方式的详细资料，有兴趣的读者可以查阅相关资料。我肤浅谈一下和我们关系密切的 gb2312 和 unicode。gb2312 码，中华人民共和国国家标准汉字信息交换用编码，是一个由中华人民共和国国家标准总局发布的关于简化汉字的编码，通行于中国大陆地区及新加坡，简称国标码。两个字节中，第一个字节（高字节）的值为区号值加32（20h），第二个字节（低字节）的值为位号值加32（20h），用这两个值来表示一个汉字的编码。unicode 码是微软提出的解决多国字符问题的多字节等长编码，它对英文字符采取前面加“0”字节的策略实现等长兼容。如 “a” 的 ascii 码为0x41，unicode 就为0x00，0x41。利用特殊的工具各种编码之间可以互相转换。
java 中文问题的初步认识
我们基于 java 编程语言进行应用开发时，不可避免地要处理中文。java 编程语言默认的编码方式是 unicode，而我们通常使用的数据库及文件都是基于 gb2312 编码的，我们经常碰到这样的情况：浏览基于 jsp 技术的网站看到的是乱码，文件打开后看到的也是乱码，被 java 修改过的数据库的内容在别的场合应用时无法继续正确地提供信息。
string senglish = “apple”;
string schinese = “苹果”;
string s = “苹果 apple ”;
senglish 的长度是5，schinese的长度是4，而 s 默认的长度是14。对于 senglish来说， java 中的各个类都支持得非常好，肯定能够正确显示。但对于 schinese 和 s 来说，虽然 java soft 声明 java 的基本类已经考虑到对多国字符的支持（默认 unicode 编码），但是如果操作系统的默认编码不是 unicode ，而是国标码等。从 java 源代码到得到正确的结果，要经过 “java 源代码-> java 字节码-> ;虚拟机->操作系统->显示设备”的过程。在上述过程中的每一步骤，我们都必须正确地处理汉字的编码，才能够使最终的显示结果正确。
“ java 源代码-> java 字节码”，标准的 java 编译器 javac 使用的字符集是系统默认的字符集，比如在中文 windows 操作系统上就是 gbk ,而在 linux 操作系统上就是iso-8859-1，所以大家会发现在 linux 操作系统上编译的类中源文件中的中文字符都出了问题，解决的办法就是在编译的时候添加 encoding 参数，这样才能够与平台无关。用法是
javac –encoding gbk。
“ java 字节码->虚拟机->操作系统”， java 运行环境 （jre） 分英文版和国际版，但只有国际版才支持非英文字符。 java 开发工具包 （jdk） 肯定支持多国字符，但并非所有的计算机用户都安装了 jdk 。很多操作系统及应用软件为了能够更好的支持 java ，都内嵌了 jre 的国际版本，为自己支持多国字符提供了方便。
“操作系统->显示设备”，对于汉字来说，操作系统必须支持并能够显示它。英文操作系统如果不搭配特殊的应用软件的话，是肯定不能够显示中文的。
还有一个问题，就是在 java 编程过程中，对中文字符进行正确的编码转换。例如，向网页输出中文字符串的时候，不论你是用
out.println(string);       // string 是含中文的字符串
还是用
<%=string%>，都必须作 unicode 到 gbk 的转换，或者手动，或者自动。在 jsp 1.0中，可以定义输出字符集，从而实现内码的自动转换。用法是
<%@page contenttype=”text/html;charset=gb2312” %>
但是在一些 jsp 版本中并没有提供对输出字符集的支持，（例如 jsp 0.92），这就需要手动编码输出了，方法非常多。最常用的方法是
string s1 = request.getparameter(“keyword”);
string s2 = new string(s1.getbytes(“iso-8859-1”),”gbk”);
getbytes 方法用于将中文字符以“iso-8859-1”编码方式转化成字节数组，而“gbk” 是目标编码方式。我们从以iso-8859-1方式编码的数据库中读出中文字符串 s1 ，经过上述转换过程，在支持 gbk 字符集的操作系统和应用软件中就能够正确显示中文字符串 s2 。
java 中文问题的表层分析及处理

.class 文件存放在服务器端，由客户端的浏览器运行 applet ， applet 只起调入 frame 类等主程序的作用。界面包括 textfield ，textarea，list，choice 等。
i.       取中文
用 jdbc 执行 select 语句从服务器端读取数据（中文）后，将数据用 append 方法加到 textarea（ta） ，不能正确显示。但加到 list 中时，大部分汉字却可正确显示。
将数据按“iso-8859-1” 编码方式转化为字节数组，再按系统缺省编码方式 （default character encoding） 转化为 string ，即可在 ta 和 list 中正确显示。
程序段如下：
dbstr2 = results.getstring(1);
//after reading the result from db server，converting it to string.
dbbyte1 = dbstr2.getbytes(“iso-8859-1”);
dbstr1 = new string(dbbyte1);
在转换字符串时不采用系统默认编码方式，而直接采用“ gbk” 或者 “gb2312” ,在 a 和 b 两种情况下，从数据库取数据都没有问题。
ii.    写中文到数据库
处理方式与“取中文”相逆，先将 sql 语句按系统缺省编码方式转化为字节数组，再按“iso-8859-1”编码方式转化为 string ，最后送去执行，则中文信息可正确写入数据库。
程序段如下：
sqlstmt = tf_input.gettext();
//before sending statement to db server，converting it to sql statement.
dbbyte1 = sqlstmt.getbytes();
sqlstmt = newstring(dbbyte1,”iso-8859-1”);
_stmt = _con.createstatement();
_stmt.executeupdate(sqlstmt);
……
问题：如果客户机上存在 classpath 指向 jdk 的 classes.zip 时（称为 a 情况），上述程序代码可正确执行。但是如果客户机只有浏览器，而没有 jdk 和 classpath 时（称为 b 情况），则汉字无法正确转换。
我们的分析：
1.经过测试，在 a 情况下，程序运行时系统的缺省编码方式为 gbk 或者 gb2312 。在 b 情况下，程序启动时浏览器的 java 控制台中出现如下错误信息：
cant find resource for sun.awt.windows.awtlocalization_zh_cn
然后系统的缺省编码方式为“8859-1”。
2.如果在转换字符串时不采用系统缺省编码方式，而是直接采用 “gbk” 或“gb2312”，则在 a 情况下程序仍然可正常运行，在 b 情况下，系统出现错误：
unsupportedencodingexception。
3.在客户机上，把 jdk 的 classes.zip 解压后，放在另一个目录中， classpath 只包含该目录。然后一边逐步删除该目录中的 .class 文件，另一边运行测试程序，最后发现在一千多个 class 文件中，只有一个是必不可少的，该文件是：
sun.io.chartobytedoublebyte.class。
将该文件拷到服务器端和其它的类放在一起，并在程序的开头 import 它，在 b 情况下程序仍然无法正常运行。
4.在 a 情况下，如果在 classpth 中去掉 sun.io.chartobytedoublebyte.class ，则程序运行时测得默认编码方式为“8859-1”，否则为 “gbk” 或 “gb2312” 。
如果 jdk 的版本为1.2以上的话，在 b 情况下遇到的问题得到了很好的解决，测试的步骤同上，有兴趣的读者可以尝试一下。
java 中文问题的根源分析及解决
在简体中文 ms windows 98 + jdk 1.3 下，可以用 system.getproperties() 得到 java 运行环境的一些基本属性，类 poorchinese 可以帮助我们得到这些属性。
类 poorchinese 的源代码：
public class poorchinese {
   public static void main(string[] args) {
       system.getproperties().list(system.out);
   }
}
执行 java poorchinese 后，我们会得到:
系统变量 file.encoding 的值为 gbk ，user.language 的值为 zh ， user.region 的值为 cn ，这些系统变量的值决定了系统默认的编码方式是 gbk 。
在上述系统中，下面的代码将 gb2312 文件转换成 big5 文件，它们能够帮助我们理解 java 中汉字编码的转化:
  
import java.io.*;
import java.util.*;
  
public class gb2big5 {
  
static int icharnum=0;
  
public static void main(string[] args) {
system.out.println("input gb2312 file, output big5 file.");
if (args.length!=2) {
system.err.println("usage: jview gb2big5 gbfile big5file");
system.exit(1);
   }
string inputstring = readinput(args[0]);
writeoutput(inputstring,args[1]);
system.out.println("number of characters in file: "+icharnum+".");
}
  
static void writeoutput(string str, string stroutfile) {
try {
fileoutputstream fos = new fileoutputstream(stroutfile);
writer out = new outputstreamwriter(fos, "big5");
out.write(str);
out.close();
}
catch (ioexception e) {
e.printstacktrace();
e.printstacktrace();
}
}
  
static string readinput(string strinfile) {
stringbuffer buffer = new stringbuffer();
try {
fileinputstream fis = new fileinputstream(strinfile);
inputstreamreader isr = new inputstreamreader(fis, "gb2312");
reader in = new bufferedreader(isr);
int ch;
while ((ch = in.read()) > -1) {
icharnum += 1;
buffer.append((char)ch);
}
in.close();
return buffer.tostring();
}
catch (ioexception e) {
e.printstacktrace();
return null;
}
}
}
  
编码转化的过程如下：
       bytetochargb2312         chartobytebig5
gb2312——————>unicode————->big5
执行 java gb2big5 gb.txt big5.txt ，如果 gb.txt 的内容是“今天星期三”，则得到的文件 big5.txt 中的字符能够正确显示；而如果 gb.txt 的内容是“情人节快乐”，则得到的文件 big5.txt 中对应于“节”和“乐”的字符都是符号“？”（0x3f），可见 sun.io.bytetochargb2312 和 sun.io.chartobytebig5 这两个基本类并没有编好。
正如上例一样， java 的基本类也可能存在问题。由于国际化的工作并不是在国内完成的，所以在这些基本类发布之前，没有经过严格的测试，所以对中文字符的支持并不像 java soft 所声称的那样完美。前不久，我的一位技术上的朋友发信给我说，他终于找到了 java servlet 中文问题的根源。两周以来，他一直为 java servlet 的中文问题所困扰，因为每面对一个含有中文字符的字符串都必须进行强制转换才能够得到正确的结果（这好象是大家公认的唯一的解决办法）。后来，他确实不想如此继续安分下去了，因为这样的事情确实不应该是高级程序员所要做的工作，他就找出 servlet 解码的源代码进行分析，因为他怀疑问题就出在解码这部分。经过四个小时的奋斗，他终于找到了问题的根源所在。原来他的怀疑是正确的， servlet 的解码部分完全没有考虑双字节，直接把 %xx 当作一个字符。（原来 java soft 也会犯这幺低级的错误！）
如果你对这个问题有兴趣或者遇到了同样的烦恼的话，你可以按照他的步骤对 servlet.jar 进行修改：
找到源代码 httputils 中的 static private string parsename ，在返回前将 sb（stringbuffer） 复制成 byte bs[] ，然后 return new string(bs,”gb2312”)。作上述修改后就需要自己解码了：
hashtable form=httputils .parsequerystring(request.getquerystring())或者
form=httputils.parsepostdata(……)
千万别忘了编译后放到 servlet.jar 里面。
五、 关于 java 中文问题的总结
java 编程语言成长于网络世界，这就要求 java 对多国字符有很好的支持。 java 编程语言适应了计算的网络化的需求，为它能够在网络世界迅速成长奠定了坚实的基础。 java 的缔造者 （java soft） 已经考虑到 java 编程语言对多国字符的支持，只是现在的解决方案有很多缺陷在里面，需要我们付诸一些补偿性的措施。而世界标准化组织也在努力把人类所有的文字统一在一种编码之中，其中一种方案是 iso10646 ，它用四个字节来表示一个字符。当然，在这种方案未被采用之前，还是希望 java soft 能够严格地测试它的产品，为用户带来更多的方便。
附一个用于从数据库和网络中取出中文乱码的处理函数，入参是有问题的字符串，出参是问题已经解决了的字符串。
        string parsechinese(string in)
        {
                string s = null;
                byte temp [];
                if (in == null)
                {
                        system.out.println("warn:chinese null founded!");
                                return new string("");
                }
                try
                {
                        temp=in.getbytes("iso-8859-1");
                        temp=in.getbytes("iso-8859-1");
                        s = new string(temp);
                }
                {
                        system.out.println("warn:chinese null founded!");
                                return new string("");
                }
                try
                {
                        temp=in.getbytes("iso-8859-1");
                        s = new string(temp);
                }
                catch(unsupportedencodingexception e)
                {
                        system.out.println (e.tostring());
                }
                return s;
        }

参考资料

• bbs 水木清华站的 java 讨论区
  • 中国最大的电子公告板的 java 讨论区，有众多高校的 java 爱好者在此进行关于 java 技术的讨论

作者简介

• 段明辉(duanmh@dns.ime.tsinghua.edu.cn)，清华大学电子工程系学生
  • 现在正在清华大学微电子学研究所从事 java 智能卡微处理器的研究和开发
  • 领导 bbs 水木清华站的 java 讨论组，为众多 java 技术应用者提供解决方案