C语言读取UTF-8文本

Python012

C语言读取UTF-8文本,第1张

UTF-8是一种多字节编码字符集,Unicode字符,也可以是一个字节,符号:

1个字节:0XXXXXXX

2个字节:110XXXXX 10XXXXXX />3个字节: 1110XXXX 10XXXXXX 10XXXXXX

4个字节:11110xxx 10XXXXXX 10XXXXXX 10XXXXXX

本文根据上面的字符串遍历的特点来确定一个字符串是否是UTF-8编码。应当注意的是,每个字节的UTF-8字符串的值具有一定的范围,而不是所有的值?是有效的UTF-8字符,但在一般应用足够长的字符串判断的情况下,更准确,是实现比较简单。具体的字节范围,可以发现在这本书的“Unicode解释”6.4.3。

布尔IsUTF8(const void *的pbuffer的,长尺寸)

{

布尔IsUTF8 = TRUE

unsigned char型*开始=(无符号字符*)pbuffer的/无符号的char *结束=(unsigned char型)pbuffer的+大小

(起点和终点)

{

(*开始<0X80)/ /(10000000):值小于0x80的ASCII的字符

{

开始+ +

}

否则,如果(*启动<(0XC0))/ /(11000000):值吗? 0XC0之间的范围0x80无效的UTF-8字符

{

IsUTF8 = FALSE

突破

}

否则,如果(*开始(0XE0))/在2个字节的UTF-8字符/(11100000):

{

(开始>=结束 - 1)

突破

((开始[1](0XC0) )= 80H时)

{

IsUTF8 = FALSE

突破

}

开始+ = 2

}

否则,如果(*启动<(31:8))/ /(11110000):结束的3个字节的UTF-8字符

{

(“开始”>= - 2)

突破。 .. />((开始[1](为0xC0))= 0x80的| |(启动[2](为0xC0))= 80H时)

{

IsUTF8 = FALSE

休息

}

开始+ = 3

}

{

IsUTF8 = FALSE

突破

}

}

回报IsUTF8

}

UTF-UCS编码的16至16个单位。小于0x10000的UCS码,UTF-16编码是等于相应的UCS代码的16位无符号整数。对于不小于0x10000的UCS码,定义了一个算法。然而,实际使用的UCS2,或者UCS4的BMP必然小于0x10000,所以现在你可以认为UTF -16和UCS-2基本相同。 UCS-2是一种编码方案,UTF-16已被用于实际的传输,所以我们要考虑的字节顺序。

试试这个四个函数,C 里面的,Linux 可用:

mbtowc

wctomb

mbstowcs

wcstombs

在 Linux 下试试看吧:

#include <stdio.h>

#include <stdlib.h>

#include <locale.h>

int main(void)

{

size_t cch

char psz[1024]

wchar_t pwsz[] = { 0x52B3, 0x788C, 0x788C, 0 }

setlocale(LC_ALL, "")

cch = wcstombs(psz, pwsz, 1024)

if (cch != 0 &&cch != -1) {

printf("%s", psz)

}

return 0

}

zdl_361 说的 "utf8 劳碌碌" 不对,因为我也输出 "劳碌碌",而我是用 Unicode 编码的。在 Windows 上,char 是 ANSI,Unicode (wchar_t) 是 UTF-16;在 Linux 上,char 是 UTF-8,Unicode (wchar_t) 是 UTF-32。不过对于这个函数来说,在哪个平台上都不会因为字符编码而影响使用。