检测编码并制作一切UTF-8

我正在从各种RSS提要中读取大量文本，并将其插入数据库中。

当然，提要中使用了几种不同的字符编码，例如UTF-8和ISO 8859-1。

不幸的是，文本的编码有时会出现问题。例：

1. “Fußball”中的“ß”在我的数据库中应如下所示：“Ÿ”。如果它是“”，则正确显示。

2. 有时，“Fußball”中的“ß”在我的数据库中看起来像这样：“ß”。然后，当然会显示错误。

3. 在其他情况下，“ß”另存为“ß”-因此无需进行任何更改。然后它也会显示错误。

如何避免情况2和情况3？

如何使所有内容都使用相同的编码，最好是UTF-8？什么时候必须使用utf8_encode()，什么时候必须使用utf8_decode()（很清楚效果是什么，但是什么时候必须使用这些功能？），什么时候我什么都不要做输入？

如何使所有内容都具有相同的编码？也许具有功能mb_detect_encoding()？我可以为此编写函数吗？所以我的问题是：

1. 如何找出文字使用的编码方式？
2. 我如何将其转换为UTF-8-不管旧的编码是什么？

这样的功能会起作用吗？

function correct_encoding($text) {
    $current_encoding = mb_detect_encoding($text, 'auto');
    $text = iconv($current_encoding, 'UTF-8', $text);
    return $text;
}

我已经测试过了，但是没有用。它出什么问题了？

如果应用utf8_encode()到已经存在的UTF-8字符串，它将返回乱码的UTF-8输出。

我做了一个解决所有这些问题的功能。叫做Encoding::toUTF8()。

您不需要知道字符串的编码是什么。它可以是Latin1（ISO 8859-1），Windows-1252或UTF-8，或者字符串可以混合使用。Encoding::toUTF8()会将所有内容转换为UTF-8。

我这样做是因为某项服务使我的数据馈送全都混乱了，在同一字符串中混合了UTF-8和Latin1。

用法：

require_once('Encoding.php');
use \ForceUTF8\Encoding;  // It's namespaced now.

$utf8_string = Encoding::toUTF8($utf8_or_latin1_or_mixed_string);

$latin1_string = Encoding::toLatin1($utf8_or_latin1_or_mixed_string);

下载：

https://github.com/neitanod/forceutf8

我提供了另一个函数，Encoding::fixUFT8()它将修复每个看起来乱码的UTF-8字符串。

用法：

require_once('Encoding.php');
use \ForceUTF8\Encoding;  // It's namespaced now.

$utf8_string = Encoding::fixUTF8($garbled_utf8_string);

例子：

echo Encoding::fixUTF8("Fédération Camerounaise de Football");
echo Encoding::fixUTF8("Fédération Camerounaise de Football");
echo Encoding::fixUTF8("FÃÂédÃÂération Camerounaise de Football");
echo Encoding::fixUTF8("Fédération Camerounaise de Football");

将输出：

Fédération Camerounaise de Football
Fédération Camerounaise de Football
Fédération Camerounaise de Football
Fédération Camerounaise de Football

我已将函数（forceUTF8）转换为称为的类上的一系列静态函数Encoding。新功能是Encoding::toUTF8()。

首先，您必须检测使用了哪种编码。在解析RSS feed（可能通过HTTP）时，您应该从HTTP标头字段的charset参数中读取编码。如果不存在，请从XML处理指令的属性中读取编码。如果也缺少该属性，请使用规范中定义的UTF-8。Content-Typeencoding

编辑    这是我可能会做的：

我会使用cURL发送和获取响应。这样，您就可以设置特定的标头字段并获取响应标头。提取响应后，您必须解析HTTP响应并将其拆分为标头和正文。然后，标头应包含Content-Type标头字段，该字段包含MIME类型和（希望）charset参数也具有编码/字符集。如果没有，我们将分析XML PI以了解该encoding属性的存在，并从那里获取编码。如果还缺少该属性，则XML规范定义使用UTF-8作为编码。

$url = 'http://www.lr-online.de/storage/rss/rss/sport.xml';

$accept = array(
    'type' => array('application/rss+xml', 'application/xml', 'application/rdf+xml', 'text/xml'),
    'charset' => array_diff(mb_list_encodings(), array('pass', 'auto', 'wchar', 'byte2be', 'byte2le', 'byte4be', 'byte4le', 'BASE64', 'UUENCODE', 'HTML-ENTITIES', 'Quoted-Printable', '7bit', '8bit'))
);
$header = array(
    'Accept: '.implode(', ', $accept['type']),
    'Accept-Charset: '.implode(', ', $accept['charset']),
);
$encoding = null;
$curl = curl_init($url);
curl_setopt($curl, CURLOPT_RETURNTRANSFER, true);
curl_setopt($curl, CURLOPT_HEADER, true);
curl_setopt($curl, CURLOPT_HTTPHEADER, $header);
$response = curl_exec($curl);
if (!$response) {
    // error fetching the response
} else {
    $offset = strpos($response, "\r\n\r\n");
    $header = substr($response, 0, $offset);
    if (!$header || !preg_match('/^Content-Type:\s+([^;]+)(?:;\s*charset=(.*))?/im', $header, $match)) {
        // error parsing the response
    } else {
        if (!in_array(strtolower($match[1]), array_map('strtolower', $accept['type']))) {
            // type not accepted
        }
        $encoding = trim($match[2], '"\'');
    }
    if (!$encoding) {
        $body = substr($response, $offset + 4);
        if (preg_match('/^<\?xml\s+version=(?:"[^"]*"|\'[^\']*\')\s+encoding=("[^"]*"|\'[^\']*\')/s', $body, $match)) {
            $encoding = trim($match[1], '"\'');
        }
    }
    if (!$encoding) {
        $encoding = 'utf-8';
    } else {
        if (!in_array($encoding, array_map('strtolower', $accept['charset']))) {
            // encoding not accepted
        }
        if ($encoding != 'utf-8') {
            $body = mb_convert_encoding($body, 'utf-8', $encoding);
        }
    }
    $simpleXML = simplexml_load_string($body, null, LIBXML_NOERROR);
    if (!$simpleXML) {
        // parse error
    } else {
        echo $simpleXML->asXML();
    }
}

检测编码很困难。

mb_detect_encoding根据您通过的许多候选者的猜测来进行工作。在某些编码中，某些字节序列是无效的，因此可以区分各种候选者。不幸的是，有很多编码，其中相同的字节有效（但不同）。在这些情况下，无法确定编码。在这些情况下，您可以实现自己的逻辑进行猜测。例如，来自日语站点的数据可能更可能具有日语编码。

只要你只对付西欧语言，三大编码要考虑的是utf-8，iso-8859-1和cp-1252。由于这些是许多平台的默认设置，因此也极有可能被错误地报告。例如。如果人们使用不同的编码，他们可能会坦率地说，因为否则他们的软件会经常损坏。因此，一个好的策略是信任提供者，除非将编码报告为这三个者之一。您仍然应该使用再次检查它的确是有效的mb_check_encoding（请注意，valid和be 是不同的 -相同的输入可能对许多编码都有效）。如果是其中之一，则可以使用mb_detect_encoding区分它们。幸运的是，这是确定性的。您只需要使用适当的检测序列即可UTF-8,ISO-8859-1,WINDOWS-1252。

一旦检测到编码，就需要将其转换为内部表示形式（这UTF-8是唯一明智的选择）。该函数utf8_encode将转换ISO-8859-1为UTF-8，因此只能用于该特定输入类型。对于其他编码，请使用mb_convert_encoding。

可以在php.net上找到实现-function的一种非常好的方法：isUTF8

function isUTF8($string) {
    return (utf8_encode(utf8_decode($string)) == $string);
}

该备忘单列出了一些与PHP中的UTF-8处理相关的常见警告： http://developer.loftdigital.com/blog/php-utf-8-cheatsheet

此功能可检测字符串中的多字节字符，也可能会有所帮助（source）：

function detectUTF8($string)
{
    return preg_match('%(?:
        [\xC2-\xDF][\x80-\xBF]             # non-overlong 2-byte
        |\xE0[\xA0-\xBF][\x80-\xBF]        # excluding overlongs
        |[\xE1-\xEC\xEE\xEF][\x80-\xBF]{2} # straight 3-byte
        |\xED[\x80-\x9F][\x80-\xBF]        # excluding surrogates
        |\xF0[\x90-\xBF][\x80-\xBF]{2}     # planes 1-3
        |[\xF1-\xF3][\x80-\xBF]{3}         # planes 4-15
        |\xF4[\x80-\x8F][\x80-\xBF]{2}     # plane 16
        )+%xs', 
    $string);
}

有点抬头。您说过“ß”应在数据库中显示为“Ÿ”。

这可能是因为您使用的是采用Latin-1字符编码的数据库，或者您的PHP-MySQL连接设置有误，这就是说，P认为您的MySQL设置为使用UTF-8，因此它以UTF-8的形式发送数据，但是您的MySQL认为PHP正在发送编码为ISO 8859-1的数据，因此它可能再次尝试将发送的数据编码为UTF-8，从而引起这种麻烦。

看一下mysql_set_charset。它可能会帮助您。

您的编码看起来就像您两次编码到UTF-8中一样；也就是从其他编码转换为UTF-8，再转换为UTF-8。就像您拥有ISO 8859-1，将其从ISO 8859-1转换为UTF-8，然后将新字符串视为ISO 8859-1进行另一次转换为UTF-8一样。

这是您所做操作的一些伪代码：

$inputstring = getFromUser();
$utf8string = iconv($current_encoding, 'utf-8', $inputstring);
$flawedstring = iconv($current_encoding, 'utf-8', $utf8string);

你应该试试：

1. 使用mb_detect_encoding()或您喜欢使用的任何方法检测编码
2. 如果是UTF-8，请转换为ISO 8859-1，然后重复步骤1
3. 最后，转换回UTF-8

假设您在“中间”转换中使用了ISO 8859-1。如果您使用的是Windows-1252，请转换为Windows-1252（latin1）。原始的源编码并不重要；您在有缺陷的第二转换中使用的是。

这是我对发生的事情的猜测；获得四个字节代替一个扩展的ASCII字节几乎没有什么其他可做的。

德语还使用ISO 8859-2和Windows-1250（Latin-2）。

关于mb_detect_encoding和的有趣之处mb_convert_encoding在于，您建议的编码顺序很重要：

// $input is actually UTF-8

mb_detect_encoding($input, "UTF-8", "ISO-8859-9, UTF-8");
// ISO-8859-9 (WRONG!)

mb_detect_encoding($input, "UTF-8", "UTF-8, ISO-8859-9");
// UTF-8 (OK)

因此，在指定期望的编码时，您可能需要使用特定的顺序。不过，请记住，这并非万无一失。

您需要测试输入的字符集，因为响应可以使用不同的编码进行编码。

我通过使用以下功能进行检测和翻译来强制将所有内容发送到UTF-8：

function fixRequestCharset()
{
  $ref = array(&$_GET, &$_POST, &$_REQUEST);
  foreach ($ref as &$var)
  {
    foreach ($var as $key => $val)
    {
      $encoding = mb_detect_encoding($var[$key], mb_detect_order(), true);
      if (!$encoding)
        continue;
      if (strcasecmp($encoding, 'UTF-8') != 0)
      {
        $encoding = iconv($encoding, 'UTF-8', $var[$key]);
        if ($encoding === false)
          continue;
        $var[$key] = $encoding;
      }
    }
  }
}

该例程会将来自远程主机的所有PHP变量转换为UTF-8。

如果无法检测或转换编码，则忽略该值。

您可以根据需要自定义它。

只需在使用变量之前调用它即可。

计算RSS提要的字符编码似乎很复杂。即使是普通的网页也经常会省略或撒谎。

因此，您可以尝试使用正确的方法来检测编码，然后回退到某种形式的自动检测（猜测）。

我知道这是一个比较老的问题，但是我认为一个有用的答案永远不会让您感到痛苦。我在桌面应用程序，SQLite和GET / POST变量之间的编码存在问题。有些使用UTF-8，有些使用ASCII，并且基本上，当涉及到外来字符时，所有内容都会搞砸。

这是我的解决方案。在处理之前，它会在每次加载页面时擦洗您的GET / POST / REQUEST（我省略了cookie，但可以根据需要添加它们）。它在标头中运行良好。如果PHP无法自动检测源编码，则会抛出警告，因此这些警告将被@禁止显示。

//Convert everything in our vars to UTF-8 for playing nice with the database...
//Use some auto detection here to help us not double-encode...
//Suppress possible warnings with @'s for when encoding cannot be detected
try
{
    $process = array(&$_GET, &$_POST, &$_REQUEST);
    while (list($key, $val) = each($process)) {
        foreach ($val as $k => $v) {
            unset($process[$key][$k]);
            if (is_array($v)) {
                $process[$key][@mb_convert_encoding($k,'UTF-8','auto')] = $v;
                $process[] = &$process[$key][@mb_convert_encoding($k,'UTF-8','auto')];
            } else {
                $process[$key][@mb_convert_encoding($k,'UTF-8','auto')] = @mb_convert_encoding($v,'UTF-8','auto');
            }
        }
    }
    unset($process);
}
catch(Exception $ex){}

从很久以来我就一直在寻找编码解决方案，而该页面可能是多年搜索的总结！我测试了您提到的一些建议，这是我的笔记：

这是我的测试字符串：

这是一个“wròngwrìtten”字符串，我需要转到'sòme'特殊的频道来查看，由fùnctìon转换！＆ 而已！

我执行INSERT将该字符串保存在数据库中设置为 utf8_general_ci

我页面的字符集是UTF-8。

如果我那样做一次INSERT，在我的数据库中，我可能有一些来自火星的角色...

因此，我需要将它们转换为一些“健全的” UTF-8。我尝试过utf8_encode()，但外星人的chars仍在入侵我的数据库...

因此，我尝试使用forceUTF8发布在数字8上的函数，但是在数据库中保存的字符串如下所示：

这是一个“wrÃngngwrÃtten”字符串，我要去给p''sme'特殊的孩子们看，然后由fÃnctìon转换！＆ 而已！

因此，在此页面上收集了更多信息，并将其与其他页面上的其他信息合并在一起，由此解决了我的问题：

$finallyIDidIt = mb_convert_encoding(
  $string,
  mysql_client_encoding($resourceID),
  mb_detect_encoding($string)
);

现在在我的数据库中，我的字符串具有正确的编码。

注意： 只有注意事项才起作用mysql_client_encoding！您需要连接到数据库，因为此函数需要一个资源ID作为参数。

但是好吧，我只是在INSERT之前进行了重新编码，所以对我来说这不是问题。

原因很简单：当你得到的东西，这不是UTF-8，你必须编码是为 UTF-8。

因此，当您获取某个ISO 8859-1的供稿时，将其解析为utf8_encode。

但是，如果要获取UTF-8提要，则无需执行任何操作。

php.net/mb_detect_encoding

echo mb_detect_encoding($str, "auto");

要么

echo mb_detect_encoding($str, "UTF-8, ASCII, ISO-8859-1");

我真的不知道结果是什么，但我建议您只使用一些具有不同编码的提要，然后尝试是否mb_detect_encoding可行。

update
auto是“ ASCII，JIS，UTF-8，EUC-JP，SJIS”的缩写。它返回检测到的字符集，您可以使用该字符集使用iconv将字符串转换为utf-8 。

<?php
function convertToUTF8($str) {
    $enc = mb_detect_encoding($str);

    if ($enc && $enc != 'UTF-8') {
        return iconv($enc, 'UTF-8', $str);
    } else {
        return $str;
    }
}
?>

我没有测试过，所以不能保证。也许有一种更简单的方法。

对我有用的@harpax。就我而言，这已经足够了：

if (isUTF8($str)) { 
    echo $str; 
}
else
{
    echo iconv("ISO-8859-1", "UTF-8//TRANSLIT", $str);
}

整理完php脚本后，不要忘记告诉mysql您正在传递什么字符集并希望接收哪些字符集。

示例：设置字符集utf8

在latin1 I / O会话中将utf8数据传递到latin1表会产生那些讨厌的鸟脚。我隔天在oscommerce商店中看到这一点。后面和第四点看起来似乎正确。但是phpmyadmin将显示事实。通过告诉mysql您要传递什么字符集，它将为您处理mysql数据的转换。

如何恢复现有的已加扰的mysql数据是另一个需要讨论的话题。:)

该版本适用于德语，但是您可以修改$ CHARSETS和$ TESTCHARS

class CharsetDetector
{
private static $CHARSETS = array(
"ISO_8859-1",
"ISO_8859-15",
"CP850"
);
private static $TESTCHARS = array(
"€",
"ä",
"Ä",
"ö",
"Ö",
"ü",
"Ü",
"ß"
);
public static function convert($string)
{
    return self::__iconv($string, self::getCharset($string));
}
public static function getCharset($string)
{
    $normalized = self::__normalize($string);
    if(!strlen($normalized))return "UTF-8";
    $best = "UTF-8";
    $charcountbest = 0;
    foreach (self::$CHARSETS as $charset) {
        $str = self::__iconv($normalized, $charset);
        $charcount = 0;
        $stop   = mb_strlen( $str, "UTF-8");

        for( $idx = 0; $idx < $stop; $idx++)
        {
            $char = mb_substr( $str, $idx, 1, "UTF-8");
            foreach (self::$TESTCHARS as $testchar) {

                if($char == $testchar)
                {

                    $charcount++;
                    break;
                }
            }
        }
        if($charcount>$charcountbest)
        {
            $charcountbest=$charcount;
            $best=$charset;
        }
        //echo $text."<br />";
    }
    return $best;
}
private static function __normalize($str)
{

$len = strlen($str);
$ret = "";
for($i = 0; $i < $len; $i++){
    $c = ord($str[$i]);
    if ($c > 128) {
        if (($c > 247)) $ret .=$str[$i];
        elseif ($c > 239) $bytes = 4;
        elseif ($c > 223) $bytes = 3;
        elseif ($c > 191) $bytes = 2;
        else $ret .=$str[$i];
        if (($i + $bytes) > $len) $ret .=$str[$i];
        $ret2=$str[$i];
        while ($bytes > 1) {
            $i++;
            $b = ord($str[$i]);
            if ($b < 128 || $b > 191) {$ret .=$ret2; $ret2=""; $i+=$bytes-1;$bytes=1; break;}
            else $ret2.=$str[$i];
            $bytes--;
        }
    }
}
return $ret; 
}
private static function __iconv($string, $charset)
{
    return iconv ( $charset, "UTF-8" , $string );
}
}

从标题获取编码并将其转换为utf-8。

$post_url='http://website.domain';

/// Get headers ////////////////////////////////////////////////////////////
function get_headers_curl($url) 
{ 
    $ch = curl_init(); 

    curl_setopt($ch, CURLOPT_URL,            $url); 
    curl_setopt($ch, CURLOPT_HEADER,         true); 
    curl_setopt($ch, CURLOPT_NOBODY,         true); 
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, true); 
    curl_setopt($ch, CURLOPT_TIMEOUT,        15); 

    $r = curl_exec($ch); 
    return $r; 
}
$the_header = get_headers_curl($post_url);
/// check for redirect /////////////////////////////////////////////////
if (preg_match("/Location:/i", $the_header)) {
    $arr = explode('Location:', $the_header);
    $location = $arr[1];

    $location=explode(chr(10), $location);
    $location = $location[0];

$the_header = get_headers_curl(trim($location));
}
/// Get charset /////////////////////////////////////////////////////////////////////
if (preg_match("/charset=/i", $the_header)) {
    $arr = explode('charset=', $the_header);
    $charset = $arr[1];

    $charset=explode(chr(10), $charset);
    $charset = $charset[0];
    }
///////////////////////////////////////////////////////////////////////////////
// echo $charset;

if($charset && $charset!='UTF-8') { $html = iconv($charset, "UTF-8", $html); }

Ÿ是Mojibake的ß。在您的数据库中，您可能有十六进制

DF if the column is "latin1",
C39F if the column is utf8 -- OR -- it is latin1, but "double-encoded"
C383C5B8 if double-encoded into a utf8 column

你应该不使用任何编码/解码的PHP函数; 相反，您应该正确设置数据库及其连接。

如果涉及MySQL，请参阅：utf8字符有问题；我看到的不是我存储的

我在这里找到解决方法http://deer.org.ua/2009/10/06/1/

class Encoding
{
    /**
     * http://deer.org.ua/2009/10/06/1/
     * @param $string
     * @return null
     */
    public static function detect_encoding($string)
    {
        static $list = ['utf-8', 'windows-1251'];

        foreach ($list as $item) {
            try {
                $sample = iconv($item, $item, $string);
            } catch (\Exception $e) {
                continue;
            }
            if (md5($sample) == md5($string)) {
                return $item;
            }
        }
        return null;
    }
}

$content = file_get_contents($file['tmp_name']);
$encoding = Encoding::detect_encoding($content);
if ($encoding != 'utf-8') {
    $result = iconv($encoding, 'utf-8', $content);
} else {
    $result = $content;
}

我认为@是一个错误的决定，会对deer.org.ua的解决方案进行一些更改；

投票最多的答案不起作用。这是我的，希望对您有所帮助。

function toUTF8($raw) {
    try{
        return mb_convert_encoding($raw, "UTF-8", "auto"); 
    }catch(\Exception $e){
        return mb_convert_encoding($raw, "UTF-8", "GBK"); 
    }
}

当您尝试使用日文和韩文等多种语言时，您可能会遇到麻烦。带有“ auto”参数的mb_convert_encoding效果不佳。设置mb_detect_order（'ASCII，UTF-8，JIS，EUC-JP，SJIS，EUC-KR，UHC'）无济于事，因为它将错误地检测EUC- *。

我得出的结论是，只要输入字符串来自HTML，它就应该在meta元素中使用“字符集”。我使用简单HTML DOM解析器，因为它支持无效的HTML。

下面的代码段从网页中提取标题元素。如果要转换整个页面，则可能要删除一些行。

<?php
require_once 'simple_html_dom.php';

echo convert_title_to_utf8(file_get_contents($argv[1])), PHP_EOL;

function convert_title_to_utf8($contents)
{
    $dom = str_get_html($contents);
    $title = $dom->find('title', 0);
    if (empty($title)) {
        return null;
    }
    $title = $title->plaintext;
    $metas = $dom->find('meta');
    $charset = 'auto';
    foreach ($metas as $meta) {
        if (!empty($meta->charset)) { // html5
            $charset = $meta->charset;
        } else if (preg_match('@charset=(.+)@', $meta->content, $match)) {
            $charset = $match[1];
        }
    }
    if (!in_array(strtolower($charset), array_map('strtolower', mb_list_encodings()))) {
        $charset = 'auto';
    }
    return mb_convert_encoding($title, 'UTF-8', $charset);
}

我在phpQuery（ISO-8859-1而不是UTF-8）上遇到了同样的问题，这个黑客帮助了我：

$html = '<?xml version="1.0" encoding="UTF-8" ?>' . $html;

mb_internal_encoding('UTF-8')，phpQuery::newDocumentHTML($html, 'utf-8')，mbstring.internal_encoding和其他操作没有采取任何影响。

尝试不使用“自动”

那是：

mb_detect_encoding($text)

代替：

mb_detect_encoding($text, 'auto')

可以在这里找到更多信息：mb_detect_encoding