随笔-314  评论-209  文章-0  trackbacks-0

 

在程序中,文本文件经常用来存储标准的ASCII码文本,比如英文、加减乘除等号这些运算符号。文本文件也可能用于存储一些其他非ASCII字符,如基于GBK的简体中文,基于GIG5的繁体中文等等。在存储这些字符时需要正确指定文件的编码格式;而在读取这些文本文件时,有时候就需要自动判定文件的编码格式。

按照给定的字符集存储文本文件时,在文件的最开头的三个字节中就有可能存储着编码信息,所以,基本的原理就是只要读出文件前三个字节,判定这些字节的值,就可以得知其编码的格式。其实,如果项目运行的平台就是中文操作系统,如果这些文本文件在项目内产生,即开发人员可以控制文本的编码格式,只要判定两种常见的编码就可以了:GBK和UTF-8。由于中文Windows默认的编码是GBK,所以一般只要判定UTF-8编码格式。

对于UTF-8编码格式的文本文件,其前3个字节的值就是-17、-69、-65,所以,判定是否是UTF-8编码格式的代码片段如下:
Java代码 复制代码
  1. java.io.File f=new java.io.File("待判定的文本文件名");   
  2. try{   
  3.   java.io.InputStream ios=new java.io.FileInputStream(f);   
  4.   byte[] b=new byte[3];   
  5.   ios.read(b);   
  6.   ios.close();   
  7.   if(b[0]==-17&&b[1]==-69&&b[2]==-65)   
  8.      System.out.println(f.getName()+"编码为UTF-8");   
  9.   else System.out.println(f.getName()+"可能是GBK");   
  10. }catch(Exception e){   
  11.    e.printStackTrace();   
  12. }   

上述代码只是简单判定了是否是UTF-8格式编码的文本文件,如果项目对要判定的文本文件编码不可控(比如用户上传的一些HTML、XML等文本),可以采用一个现成的开源项目:cpdetector,它所在的网址是:http://cpdetector.sourceforge.net/。它的类库很小,只有500K左右,利用该类库判定文本文件的代码如下:
Java代码 复制代码
  1. /*------------------------------------------------------------------------  
  2.   detector是探测器,它把探测任务交给具体的探测实现类的实例完成。  
  3.   cpDetector内置了一些常用的探测实现类,这些探测实现类的实例可以通过add方法  
  4.   加进来,如ParsingDetector、 JChardetFacade、ASCIIDetector、UnicodeDetector。    
  5.   detector按照“谁最先返回非空的探测结果,就以该结果为准”的原则返回探测到的  
  6.   字符集编码。  
  7. --------------------------------------------------------------------------*/  
  8. cpdetector.io.CodepageDetectorProxy detector =   
  9. cpdetector.io.CodepageDetectorProxy.getInstance();   
  10. /*-------------------------------------------------------------------------  
  11.   ParsingDetector可用于检查HTML、XML等文件或字符流的编码,构造方法中的参数用于  
  12.   指示是否显示探测过程的详细信息,为false不显示。  
  13. ---------------------------------------------------------------------------*/  
  14. detector.add(new cpdetector.io.ParsingDetector(false));    
  15. /*--------------------------------------------------------------------------  
  16.   JChardetFacade封装了由Mozilla组织提供的JChardet,它可以完成大多数文件的编码  
  17.   测定。所以,一般有了这个探测器就可满足大多数项目的要求,如果你还不放心,可以  
  18.   再多加几个探测器,比如下面的ASCIIDetector、UnicodeDetector等。  
  19.  ---------------------------------------------------------------------------*/    
  20. detector.add(cpdetector.io.JChardetFacade.getInstance());   
  21. //ASCIIDetector用于ASCII编码测定   
  22. detector.add(cpdetector.io.ASCIIDetector.getInstance());   
  23. //UnicodeDetector用于Unicode家族编码的测定   
  24. detector.add(cpdetector.io.UnicodeDetector.getInstance());   
  25. java.nio.charset.Charset charset = null;   
  26. File f=new File("待测的文本文件名");   
  27. try {   
  28.       charset = detector.detectCodepage(f.toURL());   
  29. catch (Exception ex) {ex.printStackTrace();}   
  30. if(charset!=null){   
  31.      System.out.println(f.getName()+"编码是:"+charset.name());   
  32. }else  
  33.     System.out.println(f.getName()+"未知");  

上面代码中的detector不仅可以用于探测文件的编码,也可以探测任意输入的文本流的编码,方法是调用其重载形式:
Java代码 复制代码
  1. charset=detector.detectCodepage(待测的文本输入流,测量该流所需的读入字节数);  

上面的字节数由程序员指定,字节数越多,判定越准确,当然时间也花得越长。要注意,字节数的指定不能超过文本流的最大长度。

判定文件编码的具体应用举例:
属性文件(.properties)是Java程序中的常用文本存储方式,象STRUTS框架就是利用属性文件存储程序中的字符串资源。它的内容如下所示:
Java代码 复制代码
  1. #注释语句   
  2. 属性名=属性值   

读入属性文件的一般方法是:
Java代码 复制代码
  1. FileInputStream ios=new FileInputStream("属性文件名");   
  2. Properties prop=new Properties();   
  3. prop.load(ios);   
  4. ios.close();   

利用java.io.Properties的load方法读入属性文件虽然方便,但如果属性文件中有中文,在读入之后就会发现出现乱码现象。发生这个原因是load方法使用字节流读入文本,在读入后需要将字节流编码成为字符串,而它使用的编码是“iso-8859-1”,这个字符集是ASCII码字符集,不支持中文编码,所以这时需要使用显式的转码:
Java代码 复制代码
  1. String value=prop.getProperty("属性名");   
  2. String encValue=new String(value.getBytes("iso-8859-1"),"属性文件的实际编码");   

在上面的代码中,属性文件的实际编码就可以利用上面的方法获得。当然,象这种属性文件是项目内部的,我们可以控制属性文件的编码格式,比如约定采用Windows内定的GBK,就直接利用"gbk"来转码,如果约定采用UTF-8,也可以是使用"UTF-8"直接转码。如果想灵活一些,做到自动探测编码,就可利用上面介绍的方法测定属性文件的编码,从而方便开发人员的工作。
posted on 2008-06-16 14:44 xzc 阅读(824) 评论(1)  编辑  收藏 所属分类: Java

评论:
# re: 判定文件编码或文本流编码的方法 2009-04-21 16:28 | wwdz
请教一个问题:
我正在做毕设,其中有一个功能是区分不带BOM标记的大尾序和小尾序的UTF-16文件,请问您有好的方法吗?谢谢  回复  更多评论
  

只有注册用户登录后才能发表评论。


网站导航: