1:簡單判斷是UTF-8或不是UTF-8,因為一般除了UTF-8之外就是GBK,所以就設置默認為GBK。
按照給定的字符集存儲文件時,在文件的最開頭的三個字節中就有可能存儲着編碼信息,所以,基本的原理就是只要讀出文件前三個字節,判定這些字節的值,就可以得知其編碼的格式。其實,如果項目運行的平台就是中文操作系統,如果這些文本文件在項目內產生,即開發人員可以控制文本的編碼格式,只要判定兩種常見的編碼就可以了:GBK和UTF-8。由於中文Windows默認的編碼是GBK,所以一般只要判定UTF-8編碼格式。
對於UTF-8編碼格式的文本文件,其前3個字節的值就是-17、-69、-65,所以,判定是否是UTF-8編碼格式的代碼片段如下:
File file = new File(path); InputStream in= new java.io.FileInputStream(file); byte[] b = new byte[3]; in.read(b); in.close(); if (b[0] == -17 && b[1] == -69 && b[2] == -65) System.out.println(file.getName() + ":編碼為UTF-8"); else System.out.println(file.getName() + ":可能是GBK,也可能是其他編碼");
2:若想實現更復雜的文件編碼檢測,可以使用一個開源項目cpdetector,它所在的網址是:http://cpdetector.sourceforge.net/。它的類庫很小,只有500K左右,cpDetector是基於統計學原理的,不保證完全正確,利用該類庫判定文本文件的代碼如下:
讀外部文件(先利用cpdetector檢測文件的編碼格式,然后用檢測到的編碼方式去讀文件):
/** * 利用第三方開源包cpdetector獲取文件編碼格式 * * @param path * 要判斷文件編碼格式的源文件的路徑 * @author huanglei * @version 2012-7-12 14:05 */ public static String getFileEncode(String path) { /* * detector是探測器,它把探測任務交給具體的探測實現類的實例完成。 * cpDetector內置了一些常用的探測實現類,這些探測實現類的實例可以通過add方法 加進來,如ParsingDetector、 * JChardetFacade、ASCIIDetector、UnicodeDetector。 * detector按照“誰最先返回非空的探測結果,就以該結果為准”的原則返回探測到的 * 字符集編碼。使用需要用到三個第三方JAR包:antlr.jar、chardet.jar和cpdetector.jar * cpDetector是基於統計學原理的,不保證完全正確。 */ CodepageDetectorProxy detector = CodepageDetectorProxy.getInstance(); /* * ParsingDetector可用於檢查HTML、XML等文件或字符流的編碼,構造方法中的參數用於 * 指示是否顯示探測過程的詳細信息,為false不顯示。 */ detector.add(new ParsingDetector(false)); /* * JChardetFacade封裝了由Mozilla組織提供的JChardet,它可以完成大多數文件的編碼 * 測定。所以,一般有了這個探測器就可滿足大多數項目的要求,如果你還不放心,可以 * 再多加幾個探測器,比如下面的ASCIIDetector、UnicodeDetector等。 */ detector.add(JChardetFacade.getInstance());// 用到antlr.jar、chardet.jar // ASCIIDetector用於ASCII編碼測定 detector.add(ASCIIDetector.getInstance()); // UnicodeDetector用於Unicode家族編碼的測定 detector.add(UnicodeDetector.getInstance()); java.nio.charset.Charset charset = null; File f = new File(path); try { charset = detector.detectCodepage(f.toURI().toURL()); } catch (Exception ex) { ex.printStackTrace(); } if (charset != null) return charset.name(); else return null; }String charsetName = getFileEncode(configFilePath); System.out.println(charsetName); inputStream = new FileInputStream(configFile); BufferedReader in = new BufferedReader(new InputStreamReader(inputStream, charsetName));
讀jar包內部資源文件(先利用cpdetector檢測jar內部的資源文件的編碼格式,然后以檢測到的編碼方式去讀文件):
/** * 利用第三方開源包cpdetector獲取URL對應的文件編碼 * * @param path * 要判斷文件編碼格式的源文件的URL * @author huanglei * @version 2012-7-12 14:05 */ public static String getFileEncode(URL url) { /* * detector是探測器,它把探測任務交給具體的探測實現類的實例完成。 * cpDetector內置了一些常用的探測實現類,這些探測實現類的實例可以通過add方法 加進來,如ParsingDetector、 * JChardetFacade、ASCIIDetector、UnicodeDetector。 * detector按照“誰最先返回非空的探測結果,就以該結果為准”的原則返回探測到的 * 字符集編碼。使用需要用到三個第三方JAR包:antlr.jar、chardet.jar和cpdetector.jar * cpDetector是基於統計學原理的,不保證完全正確。 */ CodepageDetectorProxy detector = CodepageDetectorProxy.getInstance(); /* * ParsingDetector可用於檢查HTML、XML等文件或字符流的編碼,構造方法中的參數用於 * 指示是否顯示探測過程的詳細信息,為false不顯示。 */ detector.add(new ParsingDetector(false)); /* * JChardetFacade封裝了由Mozilla組織提供的JChardet,它可以完成大多數文件的編碼 * 測定。所以,一般有了這個探測器就可滿足大多數項目的要求,如果你還不放心,可以 * 再多加幾個探測器,比如下面的ASCIIDetector、UnicodeDetector等。 */ detector.add(JChardetFacade.getInstance());// 用到antlr.jar、chardet.jar // ASCIIDetector用於ASCII編碼測定 detector.add(ASCIIDetector.getInstance()); // UnicodeDetector用於Unicode家族編碼的測定 detector.add(UnicodeDetector.getInstance()); java.nio.charset.Charset charset = null; try { charset = detector.detectCodepage(url); } catch (Exception ex) { ex.printStackTrace(); } if (charset != null) return charset.name(); else return null; }URL url = CreateStationTreeModel.class.getResource("/resource/" + "配置文件"); URLConnection urlConnection = url.openConnection(); inputStream=urlConnection.getInputStream(); String charsetName = getFileEncode(url); System.out.println(charsetName); BufferedReader in = new BufferedReader(new InputStreamReader(inputStream, charsetName));
3:探測任意輸入的文本流的編碼,方法是調用其重載形式:
charset=detector.detectCodepage(待測的文本輸入流,測量該流所需的讀入字節數);
上面的字節數由程序員指定,字節數越多,判定越准確,當然時間也花得越長。要注意,字節數的指定不能超過文本流的最大長度。
4:判定文件編碼的具體應用舉例:
屬性文件(.properties)是Java程序中的常用文本存儲方式,象STRUTS框架就是利用屬性文件存儲程序中的字符串資源。它的內容如下所示:
#注釋語句
屬性名=屬性值
讀入屬性文件的一般方法是:
FileInputStream ios=new FileInputStream(“屬性文件名”); Properties prop=new Properties(); prop.load(ios); String value=prop.getProperty(“屬性名”); ios.close();
利用java.io.Properties的load方法讀入屬性文件雖然方便,但如果屬性文件中有中文,在讀入之后就會發現出現亂碼現象。發生這個原因是load方法使用字節流讀入文本,在讀入后需要將字節流編碼成為字符串,而它使用的編碼是“iso-8859-1”,這個字符集是ASCII碼字符集,不支持中文編碼,
方法一:使用顯式的轉碼:
String value=prop.getProperty(“屬性名”); String encValue=new String(value.getBytes(“iso-8859-1″),”屬性文件的實際編碼”);
方法二:象這種屬性文件是項目內部的,我們可以控制屬性文件的編碼格式,比如約定采用Windows內定的GBK,就直接利用”gbk”來轉碼, 如果約定采用UTF-8,就使用”UTF-8″直接轉碼。
方法三:如果想靈活一些,做到自動探測編碼,就可利用上面介紹的方法測定屬性文件的編碼,從而方便開發人員的工作
補充:可以用下面代碼獲得Java支持編碼集合:
Charset.availableCharsets().keySet();
可以用下面的代碼獲得系統默認編碼:
Charset.defaultCharset();