一、引言
通過這幾天的研究，終於明白了Unicode和UTF-8之間編碼的區別。Unicode是一個字符集，而UTF-8是Unicode的其中一種，Unicode是定長的都為雙字節，而UTF-8是可變的，對於漢字來說Unicode占有的字節比UTF-8占用的字節少1個字節。Unicode為雙字節，而UTF-8中漢字占三個字節。
注: Unicode編碼目前規划的總空間是17個平面，0x0000 至 0x10FFFF。每個平面有 65536 個碼點。因此這個總的長度也有一百多萬個。
二、UTF-8
UTF-8編碼字符理論上可以最多到6個字節長，然而16位BMP（Basic Multilingual Plane）字符最多只用到3字節長。下面看一下UTF-8編碼表：
1 U-00000000 - U-0000007F: 0xxxxxxx 2
3 U-00000080 - U-000007FF: 110xxxxx 10xxxxxx 4
5 U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx 6
7 U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx 8
9 U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10
11 U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
xxx 的位置由字符編碼數的二進制表示的位填入， 越靠右的 x 具有越少的特殊意義，只用最短的那個足夠表達一個字符編碼數的多字節串。 注意在多字節串中，第一個字節的開頭"1"的數目就是整個串中字節的數目。而第一行中以0開頭，是為了兼容ASCII編碼，為一個字節，第二行就為雙字節字符串，第三行為3字節，如漢字就屬於這種，以此類推。(個人認為：其實我們可以簡單的把前面的1的個數看成字節數)
為了要將Unicode轉換為UTF-8，當然要知道他們的區別到底在什么地方。下面來看一下，在Unicode中的編碼是怎樣轉換成UTF-8的，在UTF-8中，如果一個字符的字節小於0x80（128）則為ASCII字符，占一個字節，可以不用轉換，因為UTF-8兼容ASCII編碼。假如在Unicode中漢字“你”的編碼為“u4F60”，把它轉換為二進制為100111101100000，然后按照UTF-8的方法進行轉換。可以將Unicode二進制從地位往高位取出二進制數字，每次取6位，如上述的二進制就可以分別取出為如下所示的格式，前面按格式填補，不足8位用0填補。
1 unicode: 100111101100000 4F60 2
3 utf-8: 11100100,10111101,10100000 E4BDA0
從上面就可以很直觀的看出Unicode到UTF-8之間的轉換，當然知道了UTF-8的格式后，就可以進行逆運算，就是按照格式把它在二進制中的相應位置上取出，然后在轉換就是所得到的Unicode字符了（這個運算可以通過“位移”來完成）。
如上述的“你”的轉換，由於其值大於0x800小於0x10000，因此可以判斷為三字節存儲，則最高位需要向右移“12”位再根據三字節格式的最高位為11100000（0xE0）求或（|）就可以得到最高位的值了。同理第二位則是右移“6”位，則還剩下最高位和第二位的二進制值，可以通過與111111（0x3F）求按位於（&）操作，再和11000000（0x80）求或（|）。第三位就不用移位了，只要直接取最后六位（與111111（ox3F）取&），在與11000000(0x80)求或（|）。OK了，轉換成功！在VC++中的代碼如下所示（Unicode到UTF-8的轉換）。
1 const wchar_t pUnicode = L"你"; 2 char utf8[3+1]; 3 memset(utf8,0,4); 4 utf8[0] = 0xE0|(pUnicode>>12); 5 utf8[1] = 0x80|((pUnicode>>6)&0x3F); 6 utf8[2] = 0x80|(pUnicode&0x3F); 7 utf8[3] = "\0"; 8 //char[4]就是UTF-8的字符“你”了。
當然在UTF-8到Unicode的轉換也是通過移位等來完成的，就是把UTF-8那些格式相應的位置的二進制數給揪出來。在上述例子中“你”為三個字節，因此要每個字節進行處理，有高位到低位進行處理。在UTF-8中“你”為11100100,10111101,10100000。從高位起即第一個字節11100100就是把其中的"0100"給取出來，這個很簡單只要和11111（0x1F）取與（&），由三字節可以得知最到位肯定位於12位之前，因為每次取六位。所以還要將得到的結果左移12位，最高位也就這樣完成了0100,000000,000000。而第二位則是要把“111101”給取出來，則只需將第二字節10111101和111111(0x3F)取與（&）。在將所得到的結果左移6位與最高字節所得的結果取或（|），第二位就這樣完成了，得到的結果為0100,111101,000000。以此類推最后一位直接與111111（0x3F）取與（&），再與前面所得的結果取或（|）即可得到結果0100,111101,100000。OK，轉換成功！在VC++中的代碼如下所示（UTF-8到Unicode的轉換）。
1 //UTF-8格式的字符串
2 const char* utf8 = "你"; 3 wchar_t unicode; 4 unicode = (utf8[0] & 0x1F) << 12; 5 unicode |= (utf8[1] & 0x3F) << 6; 6 unicode |= (utf8[2] & 0x3F); 7 //unicode is ok!
當然在編程過程中不可能只轉換一個字符，這里需要注意的是字符的長度一定要算清楚，不然會帶來...以上就是我這幾天研究的結果，至於Unicode的轉換為GB2312在MFC中Windows有自帶的API（WideCharToMultiByte）可以轉換。這樣也就能夠將UTF-8格式轉換為GB2312了，這里就不再贅述，如果大家有更好的方法希望指教。
三、總結
| Unicode | 是容納世界所有文字符號的國際標准編碼，使用四個字節為每個字符編碼。 |
| UTF | 英文 Unicode Transformation Format 的縮寫，意為把 Unicode 字符轉換為某種格式。UTF 系列編碼方案（UTF-8、UTF-16、UTF-32）均是由 Unicode 編碼方案衍變而來，以適應不同的數據存儲或傳遞，它們都可以完全表示 Unicode 標准中的所有字符。目前，這些衍變方案中 UTF-8 被廣泛使用，而 UTF-16 和 UTF-32 則很少被使用。 |
| UTF-8 | 使用一至四個字節為每個字符編碼，其中大部分漢字采用三個字節編碼，少量不常用漢字采用四個字節編碼。因為 UTF-8 是可變長度的編碼方式，相對於 Unicode 編碼可以減少存儲占用的空間，所以被廣泛使用。 |
| UTF-16 | 使用二或四個字節為每個字符編碼，其中大部分漢字采用兩個字節編碼，少量不常用漢字采用四個字節編碼。UTF-16 編碼有大尾序和小尾序之別，即 UTF-16BE 和 UTF-16LE，在編碼前會放置一個 U+FEFF 或 U+FFFE（UTF-16BE 以 FEFF 代表，UTF-16LE 以 FFFE 代表），其中 U+FEFF 字符在 Unicode 中代表的意義是 ZERO WIDTH NO-BREAK SPACE，顧名思義，它是個沒有寬度也沒有斷字的空白。 |
| UTF-32 | 使用四個字節為每個字符編碼，使得 UTF-32 占用空間通常會是其它編碼的二到四倍。UTF-32 與 UTF-16 一樣有大尾序和小尾序之別，編碼前會放置 U+0000FEFF 或 U+FFFE0000 以區分 |
四、轉載於
https://www.huaweicloud.com/articles/273db8fb4e5624bc6a909b168f5240e6.html