如何将具有Unicode编码的字符串转换为字母字符串

我有一个带转义Unicode字符的字符串\uXXXX，我想将其转换为常规Unicode字母。例如：

"\u0048\u0065\u006C\u006C\u006F World"

应该成为

"Hello World"

我知道当我打印第一个字符串时它已经显示了Hello world。我的问题是我从文件中读取文件名，然后搜索它们。文件中的文件名使用Unicode编码进行转义，当我搜索文件时，我找不到它们，因为它会搜索\uXXXX名称相同的文件。

从技术上讲：

String myString = "\u0048\u0065\u006C\u006C\u006F World";

自动将其转换为"Hello World"，所以我假设您正在从某个文件中读取字符串。为了将其转换为“ Hello”，您必须将文本解析为单独的unicode数字，（采用\uXXXX和只需获取XXXX），然后进行操作Integer.ParseInt(XXXX, 16)以获取十六进制值，然后进行大小写转换char以获取实际字符。

编辑：一些代码可以完成此操作：

String str = myString.split(" ")[0];
str = str.replace("\\","");
String[] arr = str.split("u");
String text = "";
for(int i = 1; i < arr.length; i++){
    int hexVal = Integer.parseInt(arr[i], 16);
    text += (char)hexVal;
}
// Text will now have Hello

该阿帕奇共享郎 StringEscapeUtils.unescapeJava（）能正确解码。

import org.apache.commons.lang.StringEscapeUtils;

@Test
public void testUnescapeJava() {
    String sJava="\\u0048\\u0065\\u006C\\u006C\\u006F";
    System.out.println("StringEscapeUtils.unescapeJava(sJava):\n" + StringEscapeUtils.unescapeJava(sJava));
}


 output:
 StringEscapeUtils.unescapeJava(sJava):
 Hello

您可以StringEscapeUtils从Apache Commons Lang使用，即：

String Title = StringEscapeUtils.unescapeJava("\\u0048\\u0065\\u006C\\u006C\\u006F");

这种简单的方法适用于大多数情况，但是会跳到类似“ u005Cu005C”的地方，该东西应解码为字符串“ \ u0048”，但实际上会在第一次通过时解码为“ H”，从而产生“ \ u0048”作为工作字符串，然后由while循环再次处理。

static final String decode(final String in)
{
    String working = in;
    int index;
    index = working.indexOf("\\u");
    while(index > -1)
    {
        int length = working.length();
        if(index > (length-6))break;
        int numStart = index + 2;
        int numFinish = numStart + 4;
        String substring = working.substring(numStart, numFinish);
        int number = Integer.parseInt(substring,16);
        String stringStart = working.substring(0, index);
        String stringEnd   = working.substring(numFinish);
        working = stringStart + ((char)number) + stringEnd;
        index = working.indexOf("\\u");
    }
    return working;
}

较短的版本：

public static String unescapeJava(String escaped) {
    if(escaped.indexOf("\\u")==-1)
        return escaped;

    String processed="";

    int position=escaped.indexOf("\\u");
    while(position!=-1) {
        if(position!=0)
            processed+=escaped.substring(0,position);
        String token=escaped.substring(position+2,position+6);
        escaped=escaped.substring(position+6);
        processed+=(char)Integer.parseInt(token,16);
        position=escaped.indexOf("\\u");
    }
    processed+=escaped;

    return processed;
}

从3.6版开始不推荐使用org.apache.commons.lang3库中的StringEscapeUtils 。

因此，您可以改用他们新的commons-text库：

compile 'org.apache.commons:commons-text:1.9'

OR

<dependency>
   <groupId>org.apache.commons</groupId>
   <artifactId>commons-text</artifactId>
   <version>1.9</version>
</dependency>

示例代码：

org.apache.commons.text.StringEscapeUtils.unescapeJava(escapedString);

您的问题尚不清楚，但是我假设您说的是您有一个文件，其中该文件的每一行都是一个文件名。每个文件名都是这样的：

\u0048\u0065\u006C\u006C\u006F

换句话说，文件名的文件中的字符\，u，0，0，4，8等。

如果是这样，那么您所看到的将是预期的。Java仅\uXXXX在源代码中（以及在读取存储的Properties对象时）转换字符串文字形式的序列。当你阅读的内容，你的文件，你将有包括字符的字符串\，u，0，0，4，8等，并没有串Hello。

所以，你需要解析该字符串来提取0048，0065等片，然后将其转换为chars，并从这些字符串char秒，然后将字符串传递给打开该文件的程序。

有关使用Apache Commons Lang的答案的更新建议： StringEscapeUtils.unescapeJava（） -已弃用，

不推荐使用。 从3.6版开始，改用commons-text StringEscapeUtils

替换为Apache Commons Text的StringEscapeUtils.unescapeJava（）

只想使用正则表达式贡献我的版本：

private static final String UNICODE_REGEX = "\\\\u([0-9a-f]{4})";
private static final Pattern UNICODE_PATTERN = Pattern.compile(UNICODE_REGEX);
...
String message = "\u0048\u0065\u006C\u006C\u006F World";
Matcher matcher = UNICODE_PATTERN.matcher(message);
StringBuffer decodedMessage = new StringBuffer();
while (matcher.find()) {
  matcher.appendReplacement(
      decodedMessage, String.valueOf((char) Integer.parseInt(matcher.group(1), 16)));
}
matcher.appendTail(decodedMessage);
System.out.println(decodedMessage.toString());

尝试

private static final Charset UTF_8 = Charset.forName("UTF-8");
private String forceUtf8Coding(String input) {return new String(input.getBytes(UTF_8), UTF_8))}

我知道使用JsonObject的一种简单方法：

try {
    JSONObject json = new JSONObject();
    json.put("string", myString);
    String converted = json.getString("string");

} catch (JSONException e) {
    e.printStackTrace();
}

这是我的解决方案...

                String decodedName = JwtJson.substring(startOfName, endOfName);

                StringBuilder builtName = new StringBuilder();

                int i = 0;

                while ( i < decodedName.length() )
                {
                    if ( decodedName.substring(i).startsWith("\\u"))
                    {
                        i=i+2;
                        builtName.append(Character.toChars(Integer.parseInt(decodedName.substring(i,i+4), 16)));
                        i=i+4;
                    }
                    else
                    {
                        builtName.append(decodedName.charAt(i));
                        i = i+1;
                    }
                };

我写了一个高性能且防错的解决方案：

public static final String decode(final String in) {
    int p1 = in.indexOf("\\u");
    if (p1 < 0)
        return in;
    StringBuilder sb = new StringBuilder();
    while (true) {
        int p2 = p1 + 6;
        if (p2 > in.length()) {
            sb.append(in.subSequence(p1, in.length()));
            break;
        }
        try {
            int c = Integer.parseInt(in.substring(p1 + 2, p1 + 6), 16);
            sb.append((char) c);
            p1 += 6;
        } catch (Exception e) {
            sb.append(in.subSequence(p1, p1 + 2));
            p1 += 2;
        }
        int p0 = in.indexOf("\\u", p1);
        if (p0 < 0) {
            sb.append(in.subSequence(p1, in.length()));
            break;
        } else {
            sb.append(in.subSequence(p1, p0));
            p1 = p0;
        }
    }
    return sb.toString();
}

快速

 fun unicodeDecode(unicode: String): String {
        val stringBuffer = StringBuilder()
        var i = 0
        while (i < unicode.length) {
            if (i + 1 < unicode.length)
                if (unicode[i].toString() + unicode[i + 1].toString() == "\\u") {
                    val symbol = unicode.substring(i + 2, i + 6)
                    val c = Integer.parseInt(symbol, 16)
                    stringBuffer.append(c.toChar())
                    i += 5
                } else stringBuffer.append(unicode[i])
            i++
        }
        return stringBuffer.toString()
    }

实际上，我写了一个包含一些实用程序的开源库。其中之一是将Unicode序列转换为String，反之亦然。我发现它非常有用。这是有关此库的有关Unicode转换器的文章的引文：

类StringUnicodeEncoderDecoder具有可以将String（以任何语言）转换为Unicode字符序列的方法，反之亦然。例如，字符串“ Hello World”将转换为

“ \ u0048 \ u0065 \ u006c \ u006c \ u006f \ u0020 \ u0057 \ u006f \ u0072 \ u006c \ u0064

并可以恢复原状。

这是整篇文章的链接，其中解释了该库具有的实用程序以及如何使该库使用它。它可以作为Maven工件或Github的源代码获得。这是非常容易使用。带有堆栈跟踪过滤，静默字符串解析Unicode转换器和版本比较的开源Java库

对于Java 9+，可以使用Matcher类的新replaceAll方法。

private static final Pattern UNICODE_PATTERN = Pattern.compile("\\\\u([0-9A-Fa-f]{4})");

public static String unescapeUnicode(String unescaped) {
    return UNICODE_PATTERN.matcher(unescaped).replaceAll(r -> String.valueOf((char) Integer.parseInt(r.group(1), 16)));
}

public static void main(String[] args) {
    String originalMessage = "\\u0048\\u0065\\u006C\\u006C\\u006F World";
    String unescapedMessage = unescapeUnicode(originalMessage);
    System.out.println(unescapedMessage);
}

我相信这种做法在主要优势unescapeJava由StringEscapeUtils（除了不使用额外的库）是，你只能转换中的Unicode字符（如果你愿意的话），因为后者将所有逃跑的Java字符（如\ n或\ t ）。如果您希望转换所有转义的字符，则库实际上是最佳选择。

@NominSim可能还有其他字符，所以我应该按长度检测它。

private String forceUtf8Coding(String str) {
    str = str.replace("\\","");
    String[] arr = str.split("u");
    StringBuilder text = new StringBuilder();
    for(int i = 1; i < arr.length; i++){
        String a = arr[i];
        String b = "";
        if (arr[i].length() > 4){
            a = arr[i].substring(0, 4);
            b = arr[i].substring(4);
        }
        int hexVal = Integer.parseInt(a, 16);
        text.append((char) hexVal).append(b);
    }
    return text.toString();
}

UnicodeUnescaper从org.apache.commons:commons-text也可以。

new UnicodeUnescaper().translate("\u0048\u0065\u006C\u006C\u006F World") 退货 "Hello World"

完成此操作的另一种方法是利用chars()Java 9引入的方法，该方法可用于遍历字符，以确保映射到代理代码点的任何char都未经解释地传递。可以用作：-

String myString = "\u0048\u0065\u006C\u006C\u006F World";
myString.chars().forEach(a -> System.out.print((char)a));
// would print "Hello World"

我发现许多答案都没有解决“补充字符”的问题。这是支持它的正确方法。没有第三方库，纯Java实现。

http://www.oracle.com/us/technologies/java/supplementary-142654.html

public static String fromUnicode(String unicode) {
    String str = unicode.replace("\\", "");
    String[] arr = str.split("u");
    StringBuffer text = new StringBuffer();
    for (int i = 1; i < arr.length; i++) {
        int hexVal = Integer.parseInt(arr[i], 16);
        text.append(Character.toChars(hexVal));
    }
    return text.toString();
}

public static String toUnicode(String text) {
    StringBuffer sb = new StringBuffer();
    for (int i = 0; i < text.length(); i++) {
        int codePoint = text.codePointAt(i);
        // Skip over the second char in a surrogate pair
        if (codePoint > 0xffff) {
            i++;
        }
        String hex = Integer.toHexString(codePoint);
        sb.append("\\u");
        for (int j = 0; j < 4 - hex.length(); j++) {
            sb.append("0");
        }
        sb.append(hex);
    }
    return sb.toString();
}

@Test
public void toUnicode() {
    System.out.println(toUnicode("😊"));
    System.out.println(toUnicode("🥰"));
    System.out.println(toUnicode("Hello World"));
}
// output:
// \u1f60a
// \u1f970
// \u0048\u0065\u006c\u006c\u006f\u0020\u0057\u006f\u0072\u006c\u0064

@Test
public void fromUnicode() {
    System.out.println(fromUnicode("\\u1f60a"));
    System.out.println(fromUnicode("\\u1f970"));
    System.out.println(fromUnicode("\\u0048\\u0065\\u006c\\u006c\\u006f\\u0020\\u0057\\u006f\\u0072\\u006c\\u0064"));
}
// output:
// 😊
// 🥰
// Hello World

Kotlin解决方案：

val sourceContent = File("test.txt").readText(Charset.forName("windows-1251"))
val result = String(sourceContent.toByteArray())

Kotlin到处都使用UTF-8作为默认编码。

方法toByteArray()具有默认参数- Charsets.UTF_8。