知識星球來源： xybaby
www.cnblogs.com/xybaby/p/7814299.html
程式員都自視清高，覺得自己是創造者，經常鄙視不太懂技術的產品或者QA。可悲的是，程式員之間也相互鄙視，程式員的鄙視鏈流傳甚廣，作為一個Python程式員，自然最關心的是下麵這幅圖啦
我們專案組一值使用Python2.7，雖然我們也知道Python3的諸多好處，也曾經蠢蠢欲動過，但由於各種歷史原因，以及業務的壓力，我們只可能繼續使用Python2.7。更悲哀的是，我們組不是那麼international，所以程式碼中還是涉及到大量的中文，因此偶爾也會遇到亂碼以及UnicodeError，於是生活在了鄙視鏈的末端。
因此，本文的標的是解釋清楚 python2.7 中unicode、str的編解碼關係，力求在鄙視鏈中前進一步。
註意：本文實驗主要基於win7，Python2.7；以及Linux ，Python2.7。除非特殊說明，所有的命令都是在終端中互動式輸入；如果沒有強調平臺，那麼就是window上的結果。下麵是一些預設的環境資訊（其重要性後文會介紹）
windows
>>> import sys,locale
>>> sys.getdefaultencoding()
‘ascii’
>>> locale.getdefaultlocale()
(‘zh_CN’, ‘cp936’)
>>> sys.stdin.encoding
‘cp936’
>>> sys.stdout.encoding
‘cp936’
>>> sys.getfilesystemencoding()
‘mbcs’
註意，上面CP936是GBK的別名，在https://docs.python.org/2/library/codecs.html#standard-encodings 可以檢視。
Linux
>>> import sys,locale
>>> sys.getdefaultencoding()
‘ascii’
>>> locale.getdefaultlocale()
(‘zh_CN’, ‘UTF-8’)
>>> sys.stdin.encoding
‘UTF-8’
>>> sys.stdout.encoding
‘UTF-8’
>>> sys.getfilesystemencoding()
‘UTF-8’
從字元編碼說起
首先來說一說gbk gb2312 unicode utf-8這些術語，這些術語與語言無關。
計算機的世界只有0和1，因此任何字元（也就是實際的文字元號）也是由01串組成。計算機為了運算方便，都是8個bit組成一個位元組（Byte），字元表達的最小單位就是位元組，即一個字元佔用一個或者多個位元組。字元編碼（character encoding）就是字集碼，編碼就是將字符集中的字元對映為一個唯一二進位制的過程。
計算機發源於美國，使用的是英文字母（字元），所有26個字母的大小寫加上數字0到10，加上符號和控制字元，總數也不多，用一個位元組（8個bit）就能表示所有的字元，這就是ANSI的“Ascii”編碼（American Standard Code for Information Interchange，美國資訊互換標準程式碼）。比如，小寫字母‘a’的ascii 碼是01100001，換算成十進位制就是97，十六進位制就是0x61。計算機中，一般都是用十六進位制來描述字元編碼。
但是當計算機傳到中國的時候，ASCII編碼就行不通了，漢字這麼多，一個位元組肯定表示不下啊，於是有了GB 2312（中國國家標準簡體中文字符集）。GB2312使用兩個位元組來對一個字元進行編碼，其中前面的一個位元組（稱之為高位元組）從0xA1用到 0xF7，後面一個位元組（低位元組）從0xA1到0xFE，GB2312能表示幾千個漢字，而且與asill嗎也是相容的。
但後來發現，GB2312還是不夠用，於是進行擴充套件，產生了GBK（即漢字內碼擴充套件規範）， GBK同Gb2312一樣，兩個位元組表示一個字元，但區別在於，放寬了對低位元組的要求，因此能表示的範圍擴大到了20000多。後來，為了容納少數名族，以及其他漢字國家的文字，出現了GB13080。GB13080是相容GBK與GB2312的，能容納更多的字元，與GBK與GB2312不同的是，GB18030採用單位元組、雙位元組和四位元組三種方式對字元編碼
因此，就我們關心的漢字而言，三種編碼方式的表示範圍是：
GB18030 》 GBK 》 GB2312
即GBK是GB2312的超集，GB1803又是GBK的超集。後面也會看到，一個漢字可以用GBK表示，但不一定能被GB2312所表示
當然，世界上還有更多的語言與文字，每種文字都有自己的一套編碼規則，這樣一旦跨國就會出現亂碼，亟待一個全球統一的解決辦法。這個時候ISO（國際標準化組織）出馬了，發明瞭”Universal Multiple-Octet Coded Character Set”，簡稱 UCS, 俗稱 “unicode”。標的很簡單：廢了所有的地區性編碼方案，重新搞一個包括了地球上所有文化、所有字母和符號 的編碼！
unicode每種語言中的每個字元設定了統一併且唯一的二進位制編碼，以滿足跨語言、跨平臺進行文字轉換、處理的要求。unicode編碼一定以u開頭。
但是，unicode只是一個編碼規範，是所有字元對應二進位制的集合，而不是具體的編碼規則。或者說，unicode是表現形式，而不是儲存形式，就是說沒用定義每個字元是如何以二進位制的形式儲存的。這個就跟GBK這些不一樣，GBK是表裡如下，表現形式即儲存形式。
比如漢字“嚴”的unicode編碼是u4e25，對應的二進位制是1001110 00100101，但是當其經過網路傳輸或者檔案儲存時，是沒法知道怎麼解析這些二進位制的，容易和其他位元組混在一起。那麼怎麼儲存unicode呢，於是出現了UTF（UCS Transfer Format），這個是具體的編碼規則，即UTF的表現形式與儲存格式是一樣的。
因此，可以說，GBK和UTF-8是同一個層面的東西，跟unicode是另一個層面的東西，unicode飄在空中，如果要落地，需要轉換成utf-8或者GBK。只不過，轉換成Utf-8，大家都能懂，更懂用，而轉換成GBK，只有中國人才看得懂
UTF也有不同的實現，如UTF-8， UTF-16， 這裡以UTF-8為例進行講解（下麵一小節取用了阮一峰的文章）。
unicode與utf-8
UTF-8最大的一個特點，就是它是一種變長的編碼方式。它可以使用1~4個位元組表示一個符號，根據不同的符號而變化位元組長度。UTF-8的編碼規則很簡單，只有二條：
1）對於單位元組的符號，位元組的第一位設為0，後面7位為這個符號的unicode碼。因此對於英語字母，UTF-8編碼和ASCII碼是相同的。
2）對於n位元組的符號（n>1），第一個位元組的前n位都設為1，第n+1位設為0，後面位元組的前兩位一律設為10。剩下的沒有提及的二進位制位，全部為這個符號的unicode碼。
下表總結了編碼規則，字母x表示可用編碼的位。
Unicode符號範圍 | UTF–8編碼方式
(十六進位制) | （二進位制）
———————-+———————————————
0000 0000–0000 007F | 0xxxxxxx
0000 0080–0000 07FF | 110xxxxx 10xxxxxx
0000 0800–0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001 0000–0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
以漢字“嚴”為例，演示如何實現UTF-8編碼。
已知“嚴”的unicode是4E25（100111000100101），根據上表，可以發現4E25處在第三行的範圍內（0000 0800-0000 FFFF），因此“嚴”的UTF-8編碼需要三個位元組，即格式是“1110xxxx 10xxxxxx 10xxxxxx”。然後，從“嚴”的最後一個二進位制位開始，依次從後向前填入格式中的x，多出的位補0。這樣就得到了，“嚴”的UTF-8編碼是“11100100 10111000 10100101”，轉換成十六進位制就是E4B8A5。
當編解碼遇上Python2.x
下麵使用Python語言來驗證上面的理論。在這一章節中，當提到unicode，一般是指unicode type，即Python中的型別；也會提到unicode編碼、unicode函式，請大家註意區別。
另外，對於編碼，也有兩種意思。第一個是名字，指的是字元的二進製表示，如unicode編碼、gbk編碼。第二個是動詞，指的是從字元到二進位制的對映過程。不過後文中，編碼作為動詞，狹義理解為從unicode型別轉換成str型別的過程，解碼則是相反的過程。另外強調的是，unicode型別一定是unicode編碼，而str型別可能是gbk、ascii或者utf-8編碼。
unicode 與 str 區別
在python2.7中，有兩種“字串”型別，分別是str 與 unicode，他們有同一個基類basestring。str是plain string，其實應該稱之為位元組串，因為是每一個位元組換一個單位長度。而unicode就是unicode string，這才是真正的字串，一個字元（可能多個位元組）算一個單位長度。
python2.7中，unicode型別需要在文字之間加u表示。
>>> us = u‘嚴’
>>> print type(us), len(us)
<type ‘unicode’> 1
>>> s = ‘嚴’
>>> print type(s), len(s)
<type ‘str’> 2
>>>
從上可以看到，第一，us、s的型別是不一樣的；其二，同一個漢字，不同的型別其長度也是不一樣的，對於unicode型別的實體，其長度一定是字元的個數，而對於str型別的實體，其長度是字元對應的位元組數目。這裡強調一下，s（s = ‘嚴’）的長度在不同的環境下是不一樣的！後文會解釋
__str__ __repr__的區別
這是python中兩個magic method，很容易讓新手迷糊，因為很多時候，二者的實現是一樣的，但是這兩個函式是用在不同的地方
_str__， 主要是用於展示，str(obj)或者print obj的時候呼叫，傳回值一定是一個str 物件
__repr__， 是被repr(obj)， 或者在終端直接打obj的時候呼叫
>>> us = u‘嚴’
>>> us
u‘嚴’
>>> print us
嚴
可以看到，不使用print傳回的是一個更能反映物件本質的結果，即us是一個unicode物件（最前面的u表示，以及unicode編碼是用的u），且“嚴”的unicode編碼確實是4E25。而print呼叫可us.__str__，等價於print str(us)，使得結果對使用者更友好。那麼unicode.__str__是怎麼轉換成str的呢，答案會在後面揭曉
unicode str utf-8關係
前面已經提到，unicode只是編碼規範（只是字元與二進位制的對映集合），而utf-8是具體的編碼規則（不僅包含字元與二進位制的對映集合，而且對映後的二進位制是可以用於儲存和傳輸的），即utf-8負責把unicode轉換成可儲存和傳輸的二進位制字串即str型別，我們稱這個轉換過程為編碼。而從str型別到unicode型別的過程，我們稱之為解碼。
Python中使用decode()和encode()來進行解碼和編碼，以unicode型別作為中間型別。如下圖所示
decode encode
str ———> unicode ———>str
即str型別呼叫decode方法轉換成unicode型別，unicode型別呼叫encode方法轉換成str型別。for example
>>> us = u‘嚴’
>>> ss = us.encode(‘utf-8’)
>>> ss
‘严’
>>> type(ss)
<type ‘str’>
>>> ss.decode(‘utf-8’) == us
True
從上可以看出encode與decode兩個函式的作用，也可以看出’嚴’的utf8編碼是E4B8A5。
就是說我們使用unicode.encode將unicode型別轉換成了str型別，在上面也提到unicode.__str__也是將unicode型別轉換成str型別。二者有什麼卻比呢
unicode.encode 與 unicode.__str__的區別
首先看看檔案
str.encode([encoding[, errors]])
Return an encoded version of the string. Default encoding is the current default string encoding.
object.__str__(self)
Called by the str() built–in function and by the print statement to compute the “informal” string representation of an object.
註意：str.encode 這裡的str是basestring，是str型別與unicode型別的基類
可以看到encode方法是有可選的引數：encoding 和 errors，在上面的例子中encoding即為utf-8；而__str__是沒有引數的，我們可以猜想，對於unicode型別，__str__函式一定也是使用了某種encoding來對unicode進行編碼。
首先不禁要問，如果encode方法沒有帶入引數，是什麼樣子的：
>>> us.encode()
Traceback (most recent call last):
File “
“ , line 1, in <module>UnicodeEncodeError: ‘ascii’ codec can‘t encode character u’u4e25‘ in position 0: ordinal not in range(128)
不難看出，預設使用的就是ascii碼來對unicode就行編碼，為什麼是ascii碼，其實就是系統預設編碼（sys.getdefaultencoding的傳回值）。ascii碼顯然無法表示漢字，於是丟擲了異常。而使用utf-8編碼的時候，由於utf能夠表示這個漢字，所以沒報錯。
如果直接列印ss（us.encode(‘utf-8’)的傳回值）會怎麼樣
>>> print ss
涓
結果略有些奇怪，us.__str__(即直接列印us）的結果不一樣，那麼試試encoding = gbk呢？
>>> print us.encode(‘gbk’)
嚴
U got it! 事實上也是如此，python會採用終端預設的編碼（用locale.getdefaultlocale()檢視，windows是為gbk）將unicode編碼成str型別。
在Linux（終端編碼為utf-8），結果如下：
>>> us= u‘嚴’
>>> print us.encode(‘utf-8’)
嚴
>>> print us.encode(‘gbk’)
▒▒
>>> print us
嚴
>>>
註意上面的亂碼！
unicode gbk之間的轉換
在上上小節，介紹了unicode可以透過utf-8編碼（encoding = utf-8），轉換成utf-8表示的str，在上一節也可以看出unicode也可以透過gbk編碼（encoding=gbk），轉換成gbk表示的str。這裡有點暈，留作第一個問題，後面解釋
unicode與utf8之間的相互轉換可以計算得知，但unicode與gbk之間的相互轉換沒有計算公式，就只能靠查表了，就是說有一張對映表，有某一個漢字對應的unicode表示與gbk表示的對映關係
>> us = u‘嚴’
>>> us
u‘嚴’
>>> us.encode(‘gbk’)
‘ÑÏ’
>>> us.encode(‘gb2312’)
‘ÑÏ’
>>> us.encode(‘gb18030’)
‘ÑÏ’
>>> s = ‘嚴’
>>> s
‘ÑÏ’
>>>
從上不難看出，嚴的unicdoe編碼是4e25，GBK編碼是d1cf，因此us透過gbk編碼就是d1cf。同樣也能看到，GB18030，GBK，GB2312是相容的
為什麼print us.encode(‘utf-8’)打印出“涓”
ss = us.encode(‘utf-8’)， ss是一個str型別，直接列印結果有點奇怪，一個“涓”字，那一個str型別的“涓”是哪些二進位制組成的呢
>>> s = ‘涓’
>>> s
‘丒
可以看到，str型別的“涓”，其二進位制是E4B8，跟’嚴’的utf8編碼（E4B8A5）相差了一個A5，那麼就是因為A5顯示不出來，驗證如下：
>>> print ‘–%s–‘ % ss
—涓?–
因此，只是碰巧顯示了“涓”而已，事實上ss跟“”涓“”毫無關係
回答第一個問題：str型別到底是什麼
在上上小節，提到了utf-8編碼的str，與gbk編碼的str，感覺有點繞。我們知道，一個漢字‘嚴’，可儲存的編碼格式可以是gbk（’xd1xcf’），也可以是utf-8（’xe4xb8xa5’），那麼當我們在終端敲入這個漢字的時候，是哪一種格式呢？取決於終端預設編碼。
windows上（預設終端編碼為gbk）：
>>> s = ‘嚴’
>>> s
‘ÑÏ’
Linux上（預設終端編碼為utf-8）：
>>> a = ‘嚴’
>>> a
‘严’
同樣一個漢字，同樣都是Python中的str型別，在不同的編碼格式下，其二進位制是不一樣的。因此，其長度也是不一樣的，對於str型別，其長度是對應的位元組長度。
也能看出gbk編碼的位元組長度一般小於utf-8，這也是gbk繼續存在的一個原因。
這裡，要強調一下，unicode的二進位制形式是與終端的編碼格式無關的！這個也不難理解。
unicode函式
str型別到unicode型別的轉換，出了上面提到的str.decode，還有一個unicode函式。兩個函式的簽名為：
unicode(object[, encoding[, errors]])
Return the Unicode string version of object using one of the following modes:
str.decode([encoding[, errors]])
Decodes the string using the codec registered for encoding. encoding defaults to the default string encoding.
二者引數相同，事實上二者是等價的，encoding的預設值也是一樣的，都是sys.getdefaultencoding()的結果。for example：
>>> s = ‘嚴’
>>> newuse = unicode(s)
Traceback (most recent call last):
File “
“ , line 1, in <module>UnicodeDecodeError: ‘ascii’ codec can‘t decode byte 0xd1 in position 0: ordinal not in range(128)
>>> newuse = unicode(s, ‘utf–8‘)
Traceback (most recent call last):
File “
“, line 1, in UnicodeDecodeError: ‘utf8‘ codec can’t decode byte 0xd1 in position 0: invalid continuation byte
>>> newuse = unicode(s, ‘gbk’)
>>> newuse
u‘嚴’
第一個UnicodeDecodeError，就是因為系統預設的編碼是asill嗎；第二個UnicodeDecodeError，是因為，s（str型別的實體）的編碼取決於終端預設編碼（即windows下的gbk），為了能打印出來，也就必須用gbk編碼來表示這個str，因此只能查詢gbk與unicode的對映表將s轉換成unicode型別。
為啥呼叫sys.setdefaultencoding
在諸多Python程式碼中，都會看到這麼一段：
import sys
reload(sys)
sys.setdefaultencoding(‘utf-8’)
不難猜想，setdefaultencoding跟getdefaultencoding是配對的，為啥要將系統的預設編碼設定成utf-8，其實就是解決str到unicode的轉換問題。
上一小節已經提到過，使用unicode函式將str型別轉換成unicode型別時，要考慮兩個因素：第一，str本身是什麼編碼的；第二，如果沒有傳入encoding引數，預設使用sys.getdefaultencoding。encoding引數必須與str本身的編碼對應，否則就是UnicodeDecodeError。
寫python程式碼的程式都知道，我們要在py檔案第一行寫上：
# -*- coding: utf-8 -*-
這句話的作用在於，告訴編輯器，該檔案裡面的所有str都採用utf-8編碼，且儲存檔案的時候也是使用utf-8格式。
然後檔案中就會使用下麵的這種程式碼。
s=‘中文’
us=unicode(s)
使用unicode強制轉換的時候，都不習慣帶引數，為了保證encoding引數必須與str本身的編碼一致，所以使用setdefaultencoding將系統預設編碼設定為utf-8
亂碼與UnicodeError
下麵介紹幾種常見的亂碼與異常UnicodeError， 大多數亂碼或者異常的原因在前面已經講過了，同時，對於一些亂碼，也試圖給出可行的解決辦法。
UnicodeError包括UnicodeDecodeError 與UnicodeEncodeError ，前者是decode也就是str轉unicode的時候出了異常，後者則是encode也就是unicode轉str的時候出了異常。
對於一個str，直接列印
例子就是上面反覆提到的例子
>>> ss = us.encode(‘utf-8’)
>>> print ss
涓
如果一個str型別來自網路或者檔案讀取，最好先按照對端encode的方式先decode成unicode，然後再輸出（輸出的時候會自動轉換成期望終端支援的編碼格式的str）
編碼範圍無法包括的漢字
直接上例子
>>> newus = u‘囍’
>>> newus
u‘囍’
>>> newus.encode(‘gbk’)
‘‡Ö’
>>> newus.encode(‘gb2312’)
Traceback (most recent call last):
File “
“ , line 1, in <module>UnicodeEncodeError: ‘gb2312’ codec can‘t encode character u’u56cd‘ in position 0: illegal multibyte sequence
>>>
可以看到，‘囍’字可以被gbk編碼，但是不能被gb2312編碼。
str轉unicode的時候
在上面講unicode函式的時候已經舉過例子，會爆出UnicodeDecodeError 異常。
這個錯誤比較的原因，更多來自str到unicode的預設轉換，比如一個str與一個unicode相加的時候：
>>> a = ‘嚴’
>>> b = u‘嚴’
>>> c = a + b
Traceback (most recent call last):
File “
“ , line 1, in <module>UnicodeDecodeError: ‘ascii’ codec can‘t decode byte 0xd1 in position 0: ordinal not in range(128)
unicode 與 str相加，str會轉換為unicode,使用預設的unicode(strobj, encoding = sys.getdefaultencoding())
看起來向unicode編碼的字串
某些情況下，我們打印出一個str型別，看到結果是’嚴’， 或者’u4e25’，對於這個字串，是不是很眼熟，不錯， ‘嚴‘的unicode編碼就是u’u4e25’。仔細一看，只是在引號前面多了一個u（表示是一個unicode型別）。那麼當我們看到一個’u4e25’的時候，怎麼知道對應的漢字是什麼？對於已知的這種格式的str，自然可以手動加一個u，然後在終端輸出，但是如果是一個變數，需要自動轉換成unicode呢，這個時候就可以使用python-specific-encodings中的unicode_escape
>>> s = ‘嚴’
>>> s
‘\u4e25’
>>> us = s.decode(‘unicode_escape’)
>>> us
u‘嚴’
十六進位制格式的字串
有時候，也會看到類似這樣的str，’ÑÏ’， 看起來也很熟悉，跟漢字“嚴”的gbk編碼’xd1xcf’很像，區別在於前者多了一個‘’， 這樣就無法解釋成一個十六進位制了。解決辦法是python-specific-encodings中的string_escape
>>> s=‘\xd1\xcf’
>>> s
‘\xd1\xcf’
>>> print s
xd1xcf
>>> news = s.decode(‘string_escape’)
>>> news
‘ÑÏ’
>>> print news
嚴
給讀者的一個問題
在這裡留下一個問題：
u’嚴’ == ‘嚴’
傳回值是True 還是 False呢？當然這裡故意省去了背景關係環境，不過明確的說，在不同的編碼環境下，答案是不一樣的，原因都在上文中！
總結與建議
不管怎麼樣解釋，python2.x中的字元編碼還是一件讓人頭疼的事情，即使搞懂了，之後遇到了也可能忘記。對於這個問題，諸多建議如下：
第一：使用python3，就不用再糾結str於unicode了；但是這個很難開發者說了算；
第二：不要使用中文，註釋什麼的都用英文；理想很豐滿，現實很難，只是導致大量的拼音；
第三：對於中文字串，不要用str表示，而是用unicode表示；現實中也不好實施，大家都不願意多寫一個u
第四：只在傳輸，或者持久化的時候對unicode進行encode，相反的過程時decode
第五：對於網路介面，約定好編解碼格式，強烈建議使用utf-8
第六：看到UnicodeXXXError不要慌，如果XXX是Encode，那麼一定是unicode轉str的時候出了問題；如果是Decode，一定是str轉unicode的時候出了問題。
參考
-
python codecs
-
python-specific-encodings
-
字元編碼筆記：ASCII，Unicode 和 UTF-8
-
玩轉Python讓人討厭的編碼問題
●本文編號354，以後想閱讀這篇文章直接輸入354即可
●輸入m獲取文章目錄
Web開發
更多推薦《18個技術類微信公眾號》
涵蓋：程式人生、演演算法與資料結構、駭客技術與網路安全、大資料技術、前端開發、Java、Python、Web開發、安卓開發、iOS開發、C/C++、.NET、Linux、資料庫、運維等。
