c++下的中文处理：编码与转码

处理平台：linux

1. 中文编码

中文字符常见的编码方式有：gbk, gb2312, gb18030和utf-8。这些都是内码，即字符存储在计算机中的编码方式。

gb2312编码由国家标准总局于1980制定，共收录6763个汉字，其中一级汉字3755个，二级汉字3008个；同时收录了包括拉丁字母、希腊字母、日文平假名及片假名字母、俄西里尔字母在内的682个字符。在gb2312编码下，汉字占2个字节，英文字母占一个字节。（参考：http://zh.wikipedia.org/wiki/GB_2312）

gbk为gb2312的扩展，来源于微软的cp936编码（两者可视为等同），于1995年被国家确定为汉字编码规范，共收录有21886个符号，完全兼容gb2312的所有字符。但与gb2312相比，收录了更多的简体字，并支持繁体字。在gbk编码下，汉字占2个字节，英文字母占一个字节。（参考：http://zh.wikipedia.org/wiki/GBK）

gb18030为国家于2005年制定的中文编码标准，与gb2312完全兼容，与gbk基本兼容，支持Unicode的全部统一汉字，共收录汉字70244个。采用多字节编码，每个字可以由1个、2个或4个字节组成。（参考：http://zh.wikipedia.org/wiki/GB_18030）

        虽然gb18030是最新的中文编码标准，但是现在貌似用的并不多。而gb2312由于支持的字符太少，现在已较少被使用。所以，中文编码一般选用utf-8和gbk，而utf-8通常是首选。

利用相关命令，可以直接查看字符编码，如在编码方式为utf-8的文件1.txt中存储一行文字：“专业”

$ hexdump -C 1.txt
00000000  e4 b8 93 e4 b8 9a 0a                              |.......|

$ iconv -f utf-8 -t gbk 1.txt > 2.txt 

$ hexdump -C 2.txt                    
00000000  d7 a8 d2 b5 0a                                    |.....|

关于utf-8编码更多的介绍可参考：http://www.ruanyifeng.com/blog/2007/10/ascii_unicode_and_utf-8.html

字符编码的许多关键概念的介绍可参考：http://www.pconline.com.cn/pcedu/empolder/gj/other/0505/616631.html

3. C++下中文的处理

有两种方式：

一种需要将utf-8编码的字符转换为unicode进行处理，好处是可以使用许多字符处理的库函数，坏处是在linux下比较浪费空间。

另一种方式是直接根据utf-8的编码原理解析出一个个字符进行处理。

3.1  将utf-8编码的字符串转换为unicode

首先，可以通过c语言库函数mbstowcs()和wcstombs()来实现

C++下的string其实就是模板类型basic_string<char>, 相应的wstring就是模板类型basic_string<wchar_t>，这两个类都带有许多相同的方法，如c_str(), size()...

在C++中，不能混合使用输出流cout和wcout，为了输出的统一和方便，将所有输入字符串（string）转化为unicode（wstring）进行中间字符串层面上的算法处理，最后再将处理后的结果转换为普通的string输出。

如下代码中，函数convert_to_string()和convert_to_wstring()实现了wstring和string的相互转换（需要包含头文件stdlib.h）：

int convert_to_string(const wchar_t * wstr, string &out_str){ 
	if (!wstr)
		return 1;
	char* str = NULL; 
	int size = 0; 
	string loc = setlocale(LC_ALL,NULL);
	setlocale(LC_ALL, "zh_CN.utf8"); 
	size = wcstombs( NULL, wstr, 0); 
	str = new char[size + 1]; 
	wcstombs(str, wstr, size); 
	str[size] = '\0'; 
	out_str = str;
	setlocale(LC_ALL, loc.c_str()); 
	return 0; 
}

int convert_to_wstring(const char* str, wstring &out_wstr){ 
	if (!str)
		return 1;
	wchar_t* wcs = NULL; 
	int size = 0; 
	string loc = setlocale(LC_ALL,NULL);
	setlocale(LC_ALL, "zh_CN.utf8"); 
	size = mbstowcs(NULL,str,0); 
	wcs = new wchar_t[size+1]; 
	size = mbstowcs(wcs, str, size+1); 
	wcs[size] = 0; 
	out_wstr = wcs;
	delete[] wcs;
	setlocale(LC_ALL, loc.c_str()); 
	return 0;
}

3.2 不将utf-8编码的字符转换为unicode的处理方式

在某些情况下，并不需要将utf-8编码下每一个字符解析出来存于数组，这时，可以利用utf-8编码的原理遍历字符串，提取出一个个字符进行处理。

如下代码中，函数get_char_lenght()获取str指向的字符串首个字符的长度，函数get_string_size()获取str指向的字符串的size：

int get_char_length(const char* str)
{
	if (!str)
		return 0;
	unsigned char mask = 0x80;
	if (!(str[0] & mask)) //ASCII
		return 1;
	int len = 0;
	while (str[0] & mask) 
	{
		len++;
		mask = mask >> 1;
	}
	return len; //return 1, 2 or 3
}

int get_string_size(const char* str)
{
	if (!str)
		return 0;
	int size = 0;
	int i = 0;
	int len = 0;
	while(*(str+i))
	{
		len = get_char_length(str+i);
		i += len;
		size++;
	}
	return size;
}

上述两段代码的测试主程序如下：

int main(int argc, char* argv[])
{
	string s("cs专业。");
	cout << s << "(size:" << get_string_size(s.c_str()) << ")" << endl;;

	wstring wstr;
	convert_to_wstring(s.c_str(), wstr);
	cout <<"wstring size:" << wstr.size() << endl;
	for(size_t i = 0; i < wstr.size(); ++i)
		cout << hex << wstr[i] << ' ';
	cout << dec << endl;

	string new_str;
	convert_to_string(wstr.c_str(), new_str);
	cout << new_str << "(size:" << new_str.size() << ")" << endl;;
	return 0;
}

cs专业。(size:5)
wstring size:5
63 73 4e13 4e1a 3002 
cs专业。(size:11)

        在linux下，如果想转换为unicode，又想节省空间，还可根据上面所讲的utf-8和unicode转换原理自己编写转换函数，将utf-8字符串的每个字符转换为两个字节的unicode存于容器中。

        可参考C++版本jieba分词的函数utf8ToUnicode()和unicodeToUtf8()，地址为：

        https://github.com/aszxqw/cppjieba/blob/master/src/Limonp/StringUtil.hpp

原文：http://blog.csdn.net/tjhd1989/article/details/37938763