python基礎：字符編碼問題三個不可見的字符（0xEF 0xBB 0xBF，即BOM）

一、用utf-8格式保存的txt文件等，如何去掉BOM頭

Windows系統的txt文件在使用utf-8編碼保存時會默認在文件開頭插入三個不可見的字符（0xEF 0xBB 0xBF）稱為BOM頭，這個BOM頭在python的codecs庫中已經定義為常量（codecs.BOM_UTF8）

方法一：utf8temp.txt保存時選擇utf-8保存

import codecs
data=open("utf8temp.txt",'r',encoding='utf-8').read()
data=data.encode(encoding='utf-8')
print(data)
#print("中文".encode(encoding='utf-8'))
print(len(data))
if data[:3]==codecs.BOM_UTF8:
    data=data[3:]
    print(data.decode(encoding='utf-8'))

輸出如下：

b'\xef\xbb\xbf\xe4\xb8\xad\xe6\x96\x87'
9
中文

 

方法二：

with open("./temp.txt","r",encoding='utf-8') as f:
    flag=1
    for line in f:
        if flag==1:
             line=line[1:]#去掉txt格式為utf-8會在文件第一行開頭插入
                          # 三個不可見的字符（0xEF 0xBB 0xBF）--（‘.’）                       
             flag=0
        print(line)

 

 

方法三：直接用第三方軟件去掉BOM頭，用notepad++打開txt文件，選擇編碼...without BOM，點擊保存