自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

不想再被鄙視?那就看進來! 一文搞懂Python 2字符編碼

開發(fā) 后端
本文的目標是解釋清楚 python2.7 中unicode、str的編解碼關(guān)系,力求在鄙視鏈中前進一步。本文實驗主要基于win7,Python2.7;以及Linux ,Python2.7。

程序員都自視清高,覺得自己是創(chuàng)造者,經(jīng)常鄙視不太懂技術(shù)的產(chǎn)品或者QA??杀氖?,程序員之間也相互鄙視,程序員的鄙視鏈流傳甚廣,作為一個Python程序員,自然最關(guān)心的是下面這幅圖啦

我們項目組一值使用Python2.7,雖然我們也知道Python3的諸多好處,也曾經(jīng)蠢蠢欲動過,但由于各種歷史原因,以及業(yè)務(wù)的壓力,我們只可能繼續(xù)使用Python2.7。更悲哀的是,我們組不是那么international,所以代碼中還是涉及到大量的中文,因此偶爾也會遇到亂碼以及UnicodeError,于是生活在了鄙視鏈的末端。

因此,本文的目標是解釋清楚 python2.7 中unicode、str的編解碼關(guān)系,力求在鄙視鏈中前進一步。

注意:本文實驗主要基于win7,Python2.7;以及Linux ,Python2.7。除非特殊說明,所有的命令都是在終端中交互式輸入;如果沒有強調(diào)平臺,那么就是window上的結(jié)果。下面是一些默認的環(huán)境信息(其重要性后文會介紹)

windows

  1. >>> import sys,locale 
  2. >>> sys.getdefaultencoding() 
  3. 'ascii' 
  4. >>> locale.getdefaultlocale() 
  5. ('zh_CN''cp936'
  6. >>> sys.stdin.encoding 
  7. 'cp936' 
  8. >>> sys.stdout.encoding 
  9. 'cp936' 
  10. >>> sys.getfilesystemencoding() 
  11. 'mbcs' 

注意,上面CP936是GBK的別名,在https://docs.python.org/2/library/codecs.html#standard-encodings 可以查看。

Linux

  1. >>> import sys,locale 
  2.  
  3. >>> sys.getdefaultencoding() 
  4.  
  5. 'ascii' 
  6.  
  7. >>> locale.getdefaultlocale() 
  8.  
  9. ('zh_CN''UTF-8'
  10.  
  11. >>> sys.stdin.encoding 
  12.  
  13. 'UTF-8' 
  14.  
  15. >>> sys.stdout.encoding 
  16.  
  17. 'UTF-8' 
  18.  
  19. >>> sys.getfilesystemencoding() 
  20.  
  21. 'UTF-8' 

從字符編碼說起

首先來說一說gbk gb2312 unicode utf-8這些術(shù)語,這些術(shù)語與語言無關(guān)。

計算機的世界只有0和1,因此任何字符(也就是實際的文字符號)也是由01串組成。計算機為了運算方便,都是8個bit組成一個字節(jié)(Byte),字符表達的最小單位就是字節(jié),即一個字符占用一個或者多個字節(jié)。字符編碼(character encoding)就是字集碼,編碼就是將字符集中的字符映射為一個唯一二進制的過程。

計算機發(fā)源于美國,使用的是英文字母(字符),所有26個字母的大小寫加上數(shù)字0到10,加上符號和控制字符,總數(shù)也不多,用一個字節(jié)(8個bit)就能表示所有的字符,這就是ANSI的“Ascii”編碼(American Standard Code for Information Interchange,美國信息互換標準代碼)。比如,小寫字母‘a’的ascii 碼是01100001,換算成十進制就是97,十六進制就是0x61。計算機中,一般都是用十六進制來描述字符編碼。

但是當(dāng)計算機傳到中國的時候,ASCII編碼就行不通了,漢字這么多,一個字節(jié)肯定表示不下啊,于是有了GB 2312(中國國家標準簡體中文字符集)。GB2312使用兩個字節(jié)來對一個字符進行編碼,其中前面的一個字節(jié)(稱之為高字節(jié))從0xA1用到 0xF7,后面一個字節(jié)(低字節(jié))從0xA1到0xFE,GB2312能表示幾千個漢字,而且與asill嗎也是兼容的。

但后來發(fā)現(xiàn),GB2312還是不夠用,于是進行擴展,產(chǎn)生了GBK(即漢字內(nèi)碼擴展規(guī)范), GBK同Gb2312一樣,兩個字節(jié)表示一個字符,但區(qū)別在于,放寬了對低字節(jié)的要求,因此能表示的范圍擴大到了20000多。后來,為了容納少數(shù)名族,以及其他漢字國家的文字,出現(xiàn)了GB13080。GB13080是兼容GBK與GB2312的,能容納更多的字符,與GBK與GB2312不同的是,GB18030采用單字節(jié)、雙字節(jié)和四字節(jié)三種方式對字符編碼

因此,就我們關(guān)心的漢字而言,三種編碼方式的表示范圍是:

GB18030 》 GBK 》 GB2312

GBK是GB2312的超集,GB1803又是GBK的超集。后面也會看到,一個漢字可以用GBK表示,但不一定能被GB2312所表示

當(dāng)然,世界上還有更多的語言與文字,每種文字都有自己的一套編碼規(guī)則,這樣一旦跨國就會出現(xiàn)亂碼,亟待一個全球統(tǒng)一的解決辦法。這個時候ISO(國際標準化組織)出馬了,發(fā)明了”Universal Multiple-Octet Coded Character Set”,簡稱 UCS, 俗稱 “unicode”。目標很簡單:廢了所有的地區(qū)性編碼方案,重新搞一個包括了地球上所有文化、所有字母和符號 的編碼!

unicode每種語言中的每個字符設(shè)定了統(tǒng)一并且唯一的二進制編碼,以滿足跨語言、跨平臺進行文本轉(zhuǎn)換、處理的要求。unicode編碼一定以u開頭。

但是,unicode只是一個編碼規(guī)范,是所有字符對應(yīng)二進制的集合,而不是具體的編碼規(guī)則?;蛘哒f,unicode是表現(xiàn)形式,而不是存儲形式,就是說沒用定義每個字符是如何以二進制的形式存儲的。這個就跟GBK這些不一樣,GBK是表里如下,表現(xiàn)形式即存儲形式。

比如漢字“嚴”的unicode編碼是u4e25,對應(yīng)的二進制是1001110 00100101,但是當(dāng)其經(jīng)過網(wǎng)絡(luò)傳輸或者文件存儲時,是沒法知道怎么解析這些二進制的,容易和其他字節(jié)混在一起。那么怎么存儲unicode呢,于是出現(xiàn)了UTF(UCS Transfer Format),這個是具體的編碼規(guī)則,即UTF的表現(xiàn)形式與存儲格式是一樣的。

因此,可以說,GBK和UTF-8是同一個層面的東西,跟unicode是另一個層面的東西,unicode飄在空中,如果要落地,需要轉(zhuǎn)換成utf-8或者GBK。只不過,轉(zhuǎn)換成Utf-8,大家都能懂,更懂用,而轉(zhuǎn)換成GBK,只有中國人才看得懂

UTF也有不同的實現(xiàn),如UTF-8, UTF-16, 這里以UTF-8為例進行講解(下面一小節(jié)引用了阮一峰的文章)。

unicode與utf-8

UTF-8***的一個特點,就是它是一種變長的編碼方式。它可以使用1~4個字節(jié)表示一個符號,根據(jù)不同的符號而變化字節(jié)長度。UTF-8的編碼規(guī)則很簡單,只有二條:

1)對于單字節(jié)的符號,字節(jié)的***位設(shè)為0,后面7位為這個符號的unicode碼。因此對于英語字母,UTF-8編碼和ASCII碼是相同的。

2)對于n字節(jié)的符號(n>1),***個字節(jié)的前n位都設(shè)為1,第n+1位設(shè)為0,后面字節(jié)的前兩位一律設(shè)為10。剩下的沒有提及的二進制位,全部為這個符號的unicode碼。

下表總結(jié)了編碼規(guī)則,字母x表示可用編碼的位。

  1. Unicode符號范圍      |        UTF-8編碼方式 
  2. (十六進制)           |        (二進制) 
  3. ----------------------+--------------------------------------------- 
  4. 0000 0000-0000 007F | 0xxxxxxx 
  5. 0000 0080-0000 07FF | 110xxxxx 10xxxxxx 
  6. 0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx 
  7. 0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx 

以漢字“嚴”為例,演示如何實現(xiàn)UTF-8編碼。

已知“嚴”的unicode是4E25(100111000100101),根據(jù)上表,可以發(fā)現(xiàn)4E25處在第三行的范圍內(nèi)(0000 0800-0000 FFFF),因此“嚴”的UTF-8編碼需要三個字節(jié),即格式是“1110xxxx 10xxxxxx 10xxxxxx”。然后,從“嚴”的***一個二進制位開始,依次從后向前填入格式中的x,多出的位補0。這樣就得到了,“嚴”的UTF-8編碼是“11100100 10111000 10100101”,轉(zhuǎn)換成十六進制就是E4B8A5。

當(dāng)編解碼遇上Python2.x

下面使用Python語言來驗證上面的理論。在這一章節(jié)中,當(dāng)提到unicode,一般是指unicode type,即Python中的類型;也會提到unicode編碼、unicode函數(shù),請大家注意區(qū)別。

另外,對于編碼,也有兩種意思。***個是名字,指的是字符的二進制表示,如unicode編碼、gbk編碼。第二個是動詞,指的是從字符到二進制的映射過程。不過后文中,編碼作為動詞,狹義理解為從unicode類型轉(zhuǎn)換成str類型的過程,解碼則是相反的過程。另外強調(diào)的是,unicode類型一定是unicode編碼,而str類型可能是gbk、ascii或者utf-8編碼。

unicode 與 str 區(qū)別

在python2.7中,有兩種“字符串”類型,分別是str 與 unicode,他們有同一個基類basestring。str是plain string,其實應(yīng)該稱之為字節(jié)串,因為是每一個字節(jié)換一個單位長度。而unicode就是unicode string,這才是真正的字符串,一個字符(可能多個字節(jié))算一個單位長度。

python2.7中,unicode類型需要在文本之間加u表示。

  1. >>> us = u'嚴' 
  2.  
  3. >>> print type(us), len(us) 
  4.  
  5. <type 'unicode'> 1 
  6.  
  7. >>> s = '嚴' 
  8.  
  9. >>> print type(s), len(s) 
  10.  
  11. <type 'str'> 2 
  12.  
  13. >>> 

從上可以看到,***,us、s的類型是不一樣的;其二,同一個漢字,不同的類型其長度也是不一樣的,對于unicode類型的實例,其長度一定是字符的個數(shù),而對于str類型的實例,其長度是字符對應(yīng)的字節(jié)數(shù)目。這里強調(diào)一下,s(s = ‘嚴’)的長度在不同的環(huán)境下是不一樣的!后文會解釋

__str__ __repr__的區(qū)別

這是python中兩個magic method,很容易讓新手迷糊,因為很多時候,二者的實現(xiàn)是一樣的,但是這兩個函數(shù)是用在不同的地方

_str__, 主要是用于展示,str(obj)或者print obj的時候調(diào)用,返回值一定是一個str 對象

__repr__, 是被repr(obj), 或者在終端直接打obj的時候調(diào)用

  1. >>> us = u'嚴' 
  2.  
  3. >>> us 
  4.  
  5. u'\u4e25' 
  6.  
  7. >>> print us 
  8.  
  9. 嚴 

可以看到,不使用print返回的是一個更能反映對象本質(zhì)的結(jié)果,即us是一個unicode對象(最前面的u表示,以及unicode編碼是用的u),且“嚴”的unicode編碼確實是4E25。而print調(diào)用可us.__str__,等價于print str(us),使得結(jié)果對用戶更友好。那么unicode.__str__是怎么轉(zhuǎn)換成str的呢,答案會在后面揭曉

unicode str utf-8關(guān)系

前面已經(jīng)提到,unicode只是編碼規(guī)范(只是字符與二進制的映射集合),而utf-8是具體的編碼規(guī)則(不僅包含字符與二進制的映射集合,而且映射后的二進制是可以用于存儲和傳輸?shù)模?,即utf-8負責(zé)把unicode轉(zhuǎn)換成可存儲和傳輸?shù)亩M制字符串即str類型,我們稱這個轉(zhuǎn)換過程為編碼。而從str類型到unicode類型的過程,我們稱之為解碼。

Python中使用decode()和encode()來進行解碼和編碼,以unicode類型作為中間類型。如下圖所示

  decode     encode

str ---------> unicode --------->str

即str類型調(diào)用decode方法轉(zhuǎn)換成unicode類型,unicode類型調(diào)用encode方法轉(zhuǎn)換成str類型。for example

  1. >>> us = u'嚴' 
  2.  
  3. >>> ss = us.encode('utf-8'
  4.  
  5. >>> ss 
  6.  
  7. '\xe4\xb8\xa5' 
  8.  
  9. >>> type(ss) 
  10.  
  11. <type 'str'
  12.  
  13. >>> ss.decode('utf-8') == us 
  14.  
  15. True 

從上可以看出encode與decode兩個函數(shù)的作用,也可以看出’嚴’的utf8編碼是E4B8A5。

就是說我們使用unicode.encode將unicode類型轉(zhuǎn)換成了str類型,在上面也提到unicode.__str__也是將unicode類型轉(zhuǎn)換成str類型。二者有什么卻比呢

unicode.encode 與 unicode.__str__的區(qū)別

首先看看文檔

 

  1. str.encode([encoding[, errors]]) 
  2.  
  3.   Return an encoded version of the string. Default encoding is the current default string encoding.  
  4.    
  5.  
  6. object.__str__(self) 
  7.  
  8.   Called by the str() built-in function and by the print statement to compute the “informal” string representation of an object. 

注意:str.encode 這里的str是basestring,是str類型與unicode類型的基類

可以看到encode方法是有可選的參數(shù):encoding 和 errors,在上面的例子中encoding即為utf-8;而__str__是沒有參數(shù)的,我們可以猜想,對于unicode類型,__str__函數(shù)一定也是使用了某種encoding來對unicode進行編碼。

首先不禁要問,如果encode方法沒有帶入?yún)?shù),是什么樣子的:

  1. >>> us.encode() 
  2.  
  3. Traceback (most recent call last): 
  4.  
  5. File "<stdin>", line 1, in <module> 
  6.  
  7. UnicodeEncodeError: 'ascii' codec can't encode character u'\u4e25' in position 0: ordinal not in range(128) 

不難看出,默認使用的就是ascii碼來對unicode就行編碼,為什么是ascii碼,其實就是系統(tǒng)默認編碼(sys.getdefaultencoding的返回值)。ascii碼顯然無法表示漢字,于是拋出了異常。而使用utf-8編碼的時候,由于utf能夠表示這個漢字,所以沒報錯。

如果直接打印ss(us.encode(‘utf-8’)的返回值)會怎么樣

  1. >>> print ss 
  2.  
  3. 涓 

結(jié)果略有些奇怪,us.__str__(即直接打印us)的結(jié)果不一樣,那么試試encoding = gbk呢?

  1. >>> print us.encode('gbk'
  2.  
  3. 嚴 

U got it! 事實上也是如此,python會采用終端默認的編碼(用locale.getdefaultlocale()查看,windows是為gbk)將unicode編碼成str類型。

在Linux(終端編碼為utf-8),結(jié)果如下:

  1. >>> us= u'嚴' 
  2.  
  3. >>> print us.encode('utf-8'
  4.  
  5. 嚴 
  6.  
  7. >>> print us.encode('gbk'
  8.  
  9. ▒▒ 
  10.  
  11. >>> print us 
  12.  
  13. 嚴 
  14.  
  15. >>> 

注意上面的亂碼!

unicode gbk之間的轉(zhuǎn)換

在上上小節(jié),介紹了unicode可以通過utf-8編碼(encoding = utf-8),轉(zhuǎn)換成utf-8表示的str,在上一節(jié)也可以看出unicode也可以通過gbk編碼(encoding=gbk),轉(zhuǎn)換成gbk表示的str。這里有點暈,留作***個問題,后面解釋

unicode與utf8之間的相互轉(zhuǎn)換可以計算得知,但unicode與gbk之間的相互轉(zhuǎn)換沒有計算公式,就只能靠查表了,就是說有一張映射表,有某一個漢字對應(yīng)的unicode表示與gbk表示的映射關(guān)系

  1. >> us = u'嚴' 
  2.  
  3. >>> us 
  4.  
  5. u'\u4e25' 
  6.  
  7. >>> us.encode('gbk'
  8.  
  9. '\xd1\xcf' 
  10.  
  11. >>> us.encode('gb2312'
  12.  
  13. '\xd1\xcf' 
  14.  
  15. >>> us.encode('gb18030'
  16.  
  17. '\xd1\xcf' 
  18.  
  19. >>> s = '嚴' 
  20.  
  21. >>> s 
  22.  
  23. '\xd1\xcf' 
  24.  
  25. >>> 

從上不難看出,嚴的unicdoe編碼是4e25,GBK編碼是d1cf,因此us通過gbk編碼就是d1cf。同樣也能看到,GB18030,GBK,GB2312是兼容的

為什么print us.encode(‘utf-8’)打印出“涓”

ss = us.encode(‘utf-8’), ss是一個str類型,直接打印結(jié)果有點奇怪,一個“涓”字,那一個str類型的“涓”是哪些二進制組成的呢

 

  1. >>> s = '涓' 
  2.  
  3. >>> s 
  4.  
  5. '\xe4\xb8' 

可以看到,str類型的“涓”,其二進制是E4B8,跟’嚴’的utf8編碼(E4B8A5)相差了一個A5,那么就是因為A5顯示不出來,驗證如下:

  1. >>> print '--%s--' % ss 
  2.  
  3. --涓?- 

因此,只是碰巧顯示了“涓”而已,事實上ss跟“”涓“”毫無關(guān)系

回答***個問題:str類型到底是什么

在上上小節(jié),提到了utf-8編碼的str,與gbk編碼的str,感覺有點繞。我們知道,一個漢字‘嚴’,可存儲的編碼格式可以是gbk(’xd1xcf’),也可以是utf-8(’xe4xb8xa5’),那么當(dāng)我們在終端敲入這個漢字的時候,是哪一種格式呢?取決于終端默認編碼。

windows上(默認終端編碼為gbk):

  1. >>> s = '嚴' 
  2.  
  3. >>> s 
  4.  
  5. '\xd1\xcf' 

Linux上(默認終端編碼為utf-8):

  1. >>> a = '嚴' 
  2.  
  3. >>> a 
  4.  
  5. '\xe4\xb8\xa5' 

同樣一個漢字,同樣都是Python中的str類型,在不同的編碼格式下,其二進制是不一樣的。因此,其長度也是不一樣的,對于str類型,其長度是對應(yīng)的字節(jié)長度。

也能看出gbk編碼的字節(jié)長度一般小于utf-8,這也是gbk繼續(xù)存在的一個原因。

這里,要強調(diào)一下,unicode的二進制形式是與終端的編碼格式無關(guān)的!這個也不難理解。

unicode函數(shù)

str類型到unicode類型的轉(zhuǎn)換,出了上面提到的str.decode,還有一個unicode函數(shù)。兩個函數(shù)的簽名為:

  1. unicode(object[, encoding[, errors]]) 
  2.  
  3. Return the Unicode string version of object using one of the following modes:  
  4.  
  5. str.decode([encoding[, errors]]) 
  6.  
  7. Decodes the string using the codec registered for encoding. encoding defaults to the default string encoding. 

二者參數(shù)相同,事實上二者是等價的,encoding的默認值也是一樣的,都是sys.getdefaultencoding()的結(jié)果。for example:

 

  1. unicode(object[, encoding[, errors]]) 
  2.  
  3. Return the Unicode string version of object using one of the following modes:  
  4.  
  5. str.decode([encoding[, errors]]) 
  6.  
  7. Decodes the string using the codec registered for encoding. encoding defaults to the default string encoding. 

***個UnicodeDecodeError,就是因為系統(tǒng)默認的編碼是asill嗎;第二個UnicodeDecodeError,是因為,s(str類型的實例)的編碼取決于終端默認編碼(即windows下的gbk),為了能打印出來,也就必須用gbk編碼來表示這個str,因此只能查詢gbk與unicode的映射表將s轉(zhuǎn)換成unicode類型。

為啥調(diào)用sys.setdefaultencoding

在諸多Python代碼中,都會看到這么一段:

  1. import sys 
  2.  
  3. reload(sys) 
  4.  
  5. sys.setdefaultencoding('utf-8'

不難猜想,setdefaultencoding跟getdefaultencoding是配對的,為啥要將系統(tǒng)的默認編碼設(shè)置成utf-8,其實就是解決str到unicode的轉(zhuǎn)換問題。

上一小節(jié)已經(jīng)提到過,使用unicode函數(shù)將str類型轉(zhuǎn)換成unicode類型時,要考慮兩個因素:***,str本身是什么編碼的;第二,如果沒有傳入encoding參數(shù),默認使用sys.getdefaultencoding。encoding參數(shù)必須與str本身的編碼對應(yīng),否則就是UnicodeDecodeError。

寫python代碼的程序都知道,我們要在py文件***行寫上:

  1. # -*- coding: utf-8 -*- 

這句話的作用在于,告訴編輯器,該文件里面的所有str都采用utf-8編碼,且存儲文件的時候也是使用utf-8格式。

然后文件中就會使用下面的這種代碼。

  1. s='中文' 
  2.  
  3. us=unicode(s) 

使用unicode強制轉(zhuǎn)換的時候,都不習(xí)慣帶參數(shù),為了保證encoding參數(shù)必須與str本身的編碼一致,所以使用setdefaultencoding將系統(tǒng)默認編碼設(shè)置為utf-8

亂碼與UnicodeError

下面介紹幾種常見的亂碼與異常UnicodeError, 大多數(shù)亂碼或者異常的原因在前面已經(jīng)講過了,同時,對于一些亂碼,也試圖給出可行的解決辦法。

UnicodeError包括UnicodeDecodeError 與UnicodeEncodeError ,前者是decode也就是str轉(zhuǎn)unicode的時候出了異常,后者則是encode也就是unicode轉(zhuǎn)str的時候出了異常。

對于一個str,直接打印

例子就是上面反復(fù)提到的例子

  1. >>> ss = us.encode('utf-8'
  2.  
  3. >>> print ss 
  4.  
  5. 涓 

如果一個str類型來自網(wǎng)絡(luò)或者文件讀取,***先按照對端encode的方式先decode成unicode,然后再輸出(輸出的時候會自動轉(zhuǎn)換成期望終端支持的編碼格式的str)

編碼范圍無法包括的漢字

直接上例子

  1. >>> newus = u'囍' 
  2.  
  3. >>> newus 
  4.  
  5. u'\u56cd' 
  6.  
  7. >>> newus.encode('gbk'
  8.  
  9. '\x87\xd6' 
  10.  
  11. >>> newus.encode('gb2312'
  12.  
  13. Traceback (most recent call last): 
  14.  
  15. File "<stdin>", line 1, in <module> 
  16.  
  17. UnicodeEncodeError: 'gb2312' codec can't encode character u'\u56cd' in position 0: illegal multibyte sequence 
  18.  
  19. >>> 

可以看到,‘囍’字可以被gbk編碼,但是不能被gb2312編碼。

str轉(zhuǎn)unicode的時候

在上面講unicode函數(shù)的時候已經(jīng)舉過例子,會爆出UnicodeDecodeError 異常。

這個錯誤比較的原因,更多來自str到unicode的默認轉(zhuǎn)換,比如一個str與一個unicode相加的時候:

  1. >>> a = '嚴' 
  2.  
  3. >>> b = u'嚴' 
  4.  
  5. >>> c = a + b 
  6.  
  7. Traceback (most recent call last): 
  8.  
  9. File "<stdin>", line 1, in <module> 
  10.  
  11. UnicodeDecodeError: 'ascii' codec can't decode byte 0xd1 in position 0: ordinal not in range(128) 

unicode 與 str相加,str會轉(zhuǎn)換為unicode,使用默認的unicode(strobj, encoding = sys.getdefaultencoding())

看起來向unicode編碼的字符串

某些情況下,我們打印出一個str類型,看到結(jié)果是’\u4e25’, 或者’u4e25’,對于這個字符串,是不是很眼熟,不錯, ‘嚴‘的unicode編碼就是u’u4e25’。仔細一看,只是在引號前面多了一個u(表示是一個unicode類型)。那么當(dāng)我們看到一個’u4e25’的時候,怎么知道對應(yīng)的漢字是什么?對于已知的這種格式的str,自然可以手動加一個u,然后在終端輸出,但是如果是一個變量,需要自動轉(zhuǎn)換成unicode呢,這個時候就可以使用python-specific-encodings中的unicode_escape

  1. >>> s = '\u4e25' 
  2.  
  3. >>> s 
  4.  
  5. '\\u4e25' 
  6.  
  7. >>> us = s.decode('unicode_escape'
  8.  
  9. >>> us 
  10.  
  11. u'\u4e25' 

十六進制格式的字符串

有時候,也會看到類似這樣的str,’\xd1\xcf’, 看起來也很熟悉,跟漢字“嚴”的gbk編碼’xd1xcf’很像,區(qū)別在于前者多了一個‘’, 這樣就無法解釋成一個十六進制了。解決辦法是python-specific-encodings中的string_escape

  1. >>> s='\\xd1\\xcf' 
  2.  
  3. >>> s 
  4.  
  5. '\\xd1\\xcf' 
  6.  
  7. >>> print s 
  8.  
  9. \xd1\xcf 
  10.  
  11. >>> news = s.decode('string_escape'
  12.  
  13. >>> news 
  14.  
  15. '\xd1\xcf' 
  16.  
  17. >>> print news 
  18.  
  19. 嚴 

 

給讀者的一個問題

在這里留下一個問題:

  1. u'嚴' == '嚴' 

返回值是True 還是 False呢?當(dāng)然這里故意省去了上下文環(huán)境,不過明確的說,在不同的編碼環(huán)境下,答案是不一樣的,原因都在上文中!

總結(jié)與建議

不管怎么樣解釋,python2.x中的字符編碼還是一件讓人頭疼的事情,即使搞懂了,之后遇到了也可能忘記。對于這個問題,諸多建議如下:

***:使用python3,就不用再糾結(jié)str于unicode了;但是這個很難開發(fā)者說了算;

第二:不要使用中文,注釋什么的都用英文;理想很豐滿,現(xiàn)實很難,只是導(dǎo)致大量的拼音;

第三:對于中文字符串,不要用str表示,而是用unicode表示;現(xiàn)實中也不好實施,大家都不愿意多寫一個u

第四:只在傳輸,或者持久化的時候?qū)nicode進行encode,相反的過程時decode

第五:對于網(wǎng)絡(luò)接口,約定好編解碼格式,強烈建議使用utf-8

第六:看到UnicodeXXXError不要慌,如果XXX是Encode,那么一定是unicode轉(zhuǎn)str的時候出了問題;如果是Decode,一定是str轉(zhuǎn)unicode的時候出了問題。

參考

  • python codecs
  • python-specific-encodings
  • 字符編碼筆記:ASCII,Unicode 和 UTF-8
  • 玩轉(zhuǎn)Python讓人討厭的編碼問題  
責(zé)任編輯:龐桂玉 來源: Python開發(fā)者
相關(guān)推薦

2022-03-24 08:51:48

Redis互聯(lián)網(wǎng)NoSQL

2024-04-01 12:24:33

2024-04-12 12:19:08

語言模型AI

2023-09-08 08:20:46

ThreadLoca多線程工具

2021-03-22 10:05:59

netstat命令Linux

2023-09-15 12:00:01

API應(yīng)用程序接口

2023-05-22 13:27:17

2020-12-07 06:19:50

監(jiān)控前端用戶

2021-02-28 20:53:37

Cookie存儲瀏覽器

2021-03-04 00:09:31

MySQL體系架構(gòu)

2023-03-06 21:29:41

mmap技術(shù)操作系統(tǒng)

2023-09-02 21:27:09

2024-07-12 14:46:20

2021-07-08 10:08:03

DvaJS前端Dva

2022-07-15 08:16:56

Stream函數(shù)式編程

2020-09-03 06:35:44

Linux權(quán)限文件

2021-09-11 10:41:27

PythonPickle模塊

2018-03-13 18:35:32

華為云軟件開發(fā)開發(fā)云

2021-11-06 10:18:30

Python變量常量

2024-09-26 07:27:27

點贊
收藏

51CTO技術(shù)棧公眾號