读取UTF-8-BOM标记

我正在通过FileReader读取文件-该文件已经过UTF-8解码（使用BOM），现在的问题是：我读取了文件并输出了字符串，但可悲的是BOM表标记也被输出了。为什么会这样？

fr = new FileReader(file);
br = new BufferedReader(fr);
    String tmp = null;
    while ((tmp = br.readLine()) != null) {
    String text;    
    text = new String(tmp.getBytes(), "UTF-8");
    content += text + System.getProperty("line.separator");
}

第一行后输出

?<style>

在Java中，您必须手动使用UTF8 BOM（如果存在）。此行为记录在Java bug数据库（此处和此处）中。目前尚无修复方法，因为它将破坏JavaDoc或XML解析器之类的现有工具。在Apache的IO共享提供了一个BOMInputStream处理这种情况。

看一下这个解决方案：使用BOM处理UTF8文件

最简单的解决方法可能只是\uFEFF从字符串中删除结果，因为由于任何其他原因，它极不可能出现。

tmp = tmp.replace("\uFEFF", "");

另请参阅此Guava错误报告

使用Apache Commons库。

类： org.apache.commons.io.input.BOMInputStream

用法示例：

String defaultEncoding = "UTF-8";
InputStream inputStream = new FileInputStream(someFileWithPossibleUtf8Bom);
try {
    BOMInputStream bOMInputStream = new BOMInputStream(inputStream);
    ByteOrderMark bom = bOMInputStream.getBOM();
    String charsetName = bom == null ? defaultEncoding : bom.getCharsetName();
    InputStreamReader reader = new InputStreamReader(new BufferedInputStream(bOMInputStream), charsetName);
    //use reader
} finally {
    inputStream.close();
}

这是我使用Apache BOMInputStream的方法，它使用try-with-resources块。“ false”参数告诉对象忽略以下BOM（出于安全原因，我们使用“ BOM少”文本文件，哈哈）：

try( BufferedReader br = new BufferedReader( 
    new InputStreamReader( new BOMInputStream( new FileInputStream(
       file), false, ByteOrderMark.UTF_8,
        ByteOrderMark.UTF_16BE, ByteOrderMark.UTF_16LE,
        ByteOrderMark.UTF_32BE, ByteOrderMark.UTF_32LE ) ) ) )
{
    // use br here

} catch( Exception e)

}

考虑一下Google的UnicodeReader，它可以为您完成所有这些工作。

Charset utf8 = Charset.forName("UTF-8"); // default if no BOM present
try (Reader r = new UnicodeReader(new FileInputStream(file), utf8)) {
    ....
}

Maven依赖关系：

<dependency>
    <groupId>com.google.gdata</groupId>
    <artifactId>core</artifactId>
    <version>1.47.1</version>
</dependency>

使用Apache Commons IO。

例如，下面让我们看一下我的代码（用于读取同时包含拉丁字符和西里尔字符的文本文件）：

String defaultEncoding = "UTF-16";
InputStream inputStream = new FileInputStream(new File("/temp/1.txt"));

BOMInputStream bomInputStream = new BOMInputStream(inputStream);

ByteOrderMark bom = bomInputStream.getBOM();
String charsetName = bom == null ? defaultEncoding : bom.getCharsetName();
InputStreamReader reader = new InputStreamReader(new BufferedInputStream(bomInputStream), charsetName);
int data = reader.read();
while (data != -1) {

 char theChar = (char) data;
 data = reader.read();
 ari.add(Character.toString(theChar));
}
reader.close();

结果，我们有了一个名为“ ari”的ArrayList，其中包含文件“ 1.txt”中的所有字符（BOM除外）。

这里提到，这通常是Windows上文件的问题。

一种可能的解决方案是首先通过诸如dos2unix之类的工具运行文件。

如果有人想用标准来做，那就可以这样：

public static String cutBOM(String value) {
    // UTF-8 BOM is EF BB BF, see https://en.wikipedia.org/wiki/Byte_order_mark
    String bom = String.format("%x", new BigInteger(1, value.substring(0,3).getBytes()));
    if (bom.equals("efbbbf"))
        // UTF-8
        return value.substring(3, value.length());
    else if (bom.substring(0, 2).equals("feff") || bom.substring(0, 2).equals("ffe"))
        // UTF-16BE or UTF16-LE
        return value.substring(2, value.length());
    else
        return value;
}

我发现绕过BOM的最简单方法

BufferedReader br = new BufferedReader(new InputStreamReader(fis));    
while ((currentLine = br.readLine()) != null) {
                    //case of, remove the BOM of UTF-8 BOM
                    currentLine = currentLine.replace("","");