python的ASCII码范围为[0,127],非ASCII码范围大于127.
通过str.encode(encoding)和bytes(str,encoding)根据编码名将字符串编码为原始字节。
通过bytes.decode(encoding)和str(bytes,encoding)根据编码名将原始字节解码为字符串。
gbk编码中,1个汉字表示2个字节,utf-8编码中,1个汉字表示3个字节。
1个字节用2位16进制表示。编码和解码必须送编码名encoding。
‘\xNN’为两个十六进制,表示1个字节,
’\uNNNN’为unicode转义,表示四个十六进制位,编码1个2字节(16位)字符码,
’\UNNNNNNNN’为unicode转义,表示八个十六进制位,编码1个4字节(32位)字符码,
2个16进制对应1个字节。
注意,2字节用小u(\u),4字节用大U(\U)。
ASCII文本编码是一种Unicode,存储为表示字符的字节值的一个序列。
ASCII码范围0-127.通过编码后,在字符前加b或B,打印值和字符相同。
>>> ord('a')
97
>>> chr(97)
'a'
>>> s='abc'
>>> s
'abc'
>>> len(s)
3
>>> [ord(c) for c in s]
[97, 98, 99]
>>> s.encode('ascii')
b'abc'
>>> s.encode('gbk')
b'abc'
>>> s.encode('utf-8')
b'abc'
>>> b_asc=s.encode('ascii')
>>> b_gbk=s.encode('gbk')
>>> b_utf8=s.encode('utf-8')
>>> list(map(list,(b_asc,b_gbk,b_utf8)))
[[97, 98, 99], [97, 98, 99], [97, 98, 99]]
编码非ASCII字符(编码值大于127),需用十六进制或Unicode转义。
十六进制转义用于单字节,Unicode用于两个或四个字节。
示例
>>> a,b=0xa5,0xa9
>>> a,b
(165, 169)
>>> hex(a),hex(b)
('0xa5', '0xa9')
>>> chr(a),chr(b)
('¥', '?')
# \xNN 十六进制单字节格式
>>> s1='\xa5\xa9'
# \uNNNN Unicode 双字节格式
>>> s2='\u00a5\u00a9'
>>> s1,s2
('¥?', '¥?')
>>> len(s1),len(s2)
(2, 2)
# \UNNNNNNNN Unicode 四字节格式
>>> s3='\U000000a5'
>>> s3
'¥'
描述
# | 项目 | 描述 |
---|---|---|
1 | \xNN | 2位16进制,表示单字节,用\x转义,表示ASCII文本的unicode |
2 | \uNNNN | 4位16进制,表示双字节,用\u转义,表示非ASCII文本的unicode |
3 | \UNNNNNNNN | 8位16进制,表示四字节,用\U转义,表示非ASCII文本的unicode |
4 | 单字节 | 1个字节2位16进制 |
5 | ASCII编码 | 范围[0-127] |
6 | 非ASCII编码 | 范围大于127 |
7 | gbk编码 | 1个汉字2个字节,1个字节2位16进制 |
8 | utf-8编码 | 1个汉字3个字节,1个字节2位16进制 |
9 | unicode文本 | python3.x的字符串str为unicode文本 |
10 | ord? | 获取字符c的unicode编码,为整数 |
11 | hex(i) | 获取整数i的16进制 |
12 | hex(ord?) | 获取字符c的unicode编码的16进制,用\u转义 |
13 | str.encode(encoding) | 根据编码名encoding将字符串str编码为原始字节,返回bytes类型数据,b或B开头 |
14 | bytes.decode(encoding) | 根据编码名encoding将原始字节解码为字符串,返回str类型数据 |
15 | bytes(str,encoding) | 根据编码名encoding将字符串str编码为原始字节,返回bytes类型数据,b或B开头 |
16 | str(bytes,encoding) | 根据编码名encoding将原始字节解码为字符串,返回str类型数据 |
示例
>>> c1,c2='梯','阅'
# \xNN 16进制单字节, \uNNNN 16进制双字节 , \UNNNNNNNN 16进制四字节
>>> c1_hexstr,c2_hexstr=hex(ord(c1)),hex(ord(c2))
# ord(c)获取c的unicode值,通过hex(i)获取unicode值的16进制
>>> c1_hexstr,c2_hexstr
('0x68af', '0x9605')
# \uNNNN 四位16进制表示的2个字节,1个汉字为2个字节的unicode
# 每个字节的unicode 用\u 转义 原始字节
>>> c1c2='\u68af\u9605'
>>> c1c2
'梯阅'
>>> len(c1c2)
2
# ASCII 范围为[0,127]
>>> c1c2.encode('ascii')
Traceback (most recent call last):
File "<pyshell#82>", line 1, in <module>
c1c2.encode('ascii')
UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)
# 通过 编码名 gbk 的码表编码, 1个 汉字为2个字节 ,1个字节为2位16进制
# str.encode(encoding) 根据编码名 将字符串编码为原始字节
>>> c1c2.encode('gbk')
b'\xcc\xdd\xd4\xc4'
>>> '梯阅'.encode('gbk')
b'\xcc\xdd\xd4\xc4'
# 通过 编码名 utf-8 的码表编码,1个 汉字为 3个字节,1个字节为2位16进制
>>> c1c2.encode('utf-8')
b'\xe6\xa2\xaf\xe9\x98\x85'
>>> type(c1c2.encode('utf-8'))
<class 'bytes'>
>>> bytes(c1c2,encoding='utf-8')
b'\xe6\xa2\xaf\xe9\x98\x85'
>>> gbk_c1c2_raw=b'\xcc\xdd\xd4\xc4'
>>> utf8_c1c2_raw=b'\xe6\xa2\xaf\xe9\x98\x85'
>>> len(gbk_c1c2_raw),len(utf8_c1c2_raw)
(4, 6)
# bytes.decode(encoding) 根据编码名 将原始字节解码为字符串
>>> gbk_c1c2_dcd=gbk_c1c2_raw.decode('gbk')
>>> utf8_c1c2_dcd=utf8_c1c2_raw.decode('utf-8')
>>> gbk_c1c2_dcd,utf8_c1c2_dcd
('梯阅', '梯阅')
>>> str(gbk_c1c2_raw,encoding='gbk')
'梯阅'
>>> len(gbk_c1c2_dcd),len(utf8_c1c2_dcd)
(2, 2)