用python從符合一定格式的txt文檔中逐行讀取數據並按一定規則寫入excel(openpyxl支持Excel 2007 .xlsx格式)


 

前幾天接到一個任務,從gerrit上通過ssh命令獲取一些commit相關的數據到文本文檔中,隨后將這些數據存入Excel中。數據格式如下圖所示

觀察上圖可知,存在文本文檔中的數據符合一定的格式,通過python讀取、正則表達式處理並寫入Excel文檔將大大減少人工處理的工作量。

  1. 從gerrit獲取原始信息,存入文本文檔: 

  $ssh –p 29418 <your-account>@192.168.1.16 gerrit query status:merged since:<date/7/days/ago> 2>&1 | tee merged_patch_this_week.txt

  2. 從txt文檔中讀取數據。

  Python的標准庫中,文件對象提供了三個“讀”方法: .read()、.readline() 和 .readlines()。每種方法可以接受一個變量以限制每次讀取的數據量,但它們通常不使用變量。 .read() 每次讀取整個文件,它通常用於將文件內容放到一個字符串變量中。然而 .read() 生成文件內容最直接的字符串表示,但對於連續的面向行的處理,它卻是不必要的,並且如果文件大於可用內存,則不可能實現這種處理。

  readline() 和 readlines()之間的差異是后者一次讀取整個文件,象 .read()一樣。.readlines()自動將文件內容分析成一個行的列表,該列表可以由 Python 的 for... in ... 結構進行處理。另一方面,.readline()每次只讀取一行,通常比 .readlines()慢得多。僅當沒有足夠內存可以一次讀取整個文件時,才應該使用.readline()。   

patch_file_name="merged_patch_this_week.txt"      
patch_file=open(patch_file_name,'r')        #打開文檔,逐行讀取數據
for line in open(patch_file_name):
    line=patch_file.readline()
    print line

  3. 寫入到Excel文檔中

     python處理Excel的函數庫中,xlrd、xlwt、xlutils比較常用,網上關於它們的資料也有很多。但由於它們都不支持Excel 2007以后的版本(.xlsx),所以只能忍痛放棄。

經過一番搜索,找到了openpyxl這個函數庫,它不僅支持Excel 2007,並且一直有人維護(當前最新版本為2.2.1,2015年3月31日發布)。官方的描述為:

A Python library to read/write Excel 2007 xlsx/xlsm files,它的文檔清晰易讀,相關網站:http://openpyxl.readthedocs.org/en/latest/index.html

  openpyxl 下載地址:https://bitbucket.org/openpyxl/openpyxl/get/2.2.1.tar.bz2

  它依賴於jdcal 模塊,下載地址: https://pypi.python.org/packages/source/j/jdcal/jdcal-1.0.tar.gz

  安裝方法(windows 7):首先安裝jdcal模塊--解壓縮到某目錄,cd到該目錄,運行"python setup.py install"。 然后安裝openpyxl,方法相同。

  寫入步驟如下:

  1. 打開工作簿:

wb=load_workbook('Android_Patch_Review-Y2015.xlsx')

    2. 獲得工作表

sheetnames = wb.get_sheet_names()                   
ws = wb.get_sheet_by_name(sheetnames[2])  

  3. 將txt文檔中的數據寫入並設置單元格格式

patch_file_name="merged_patch_this_week.txt"      
patch_file=open(patch_file_name,'r')        #打開文檔,逐行讀取數據
ft=Font(name='Neo Sans Intel',size=11)
for line in open(patch_file_name):
    line=patch_file.readline()
    ws.cell(row=1,column=6).value=re.sub('project:','',line)#匹配project行,若匹配成功,則將字符串“project:”刪除,剩余部分寫入Excel第1行第6列
    ws.cell(row=rows+1,column=1).font=ft

 

  4. 保存工作簿

wb.save('Android_Patch_Review-Y2015.xlsx')

 

 

完整代碼如下:

 

from openpyxl.workbook import Workbook
from openpyxl.reader.excel import load_workbook
from openpyxl.styles import PatternFill, Border, Side, Alignment, Protection, Font
import re
#from openpyxl.writer.excel import ExcelWriter
#import xlrd

ft=Font(name='Neo Sans Intel',size=11)             #define font style
bd=Border(left=Side(border_style='thin',color='00000000'),\
          right=Side(border_style='thin',color='00000000'),\
          top=Side(border_style='thin',color='00000000'),\
          bottom=Side(border_style='thin',color='00000000'))            #define border style
alg_cc=Alignment(horizontal='center',\
                        vertical='center',\
                        text_rotation=0,\
                        wrap_text=True,\
                        shrink_to_fit=True,\
                        indent=0)                           #define alignment styles
alg_cb=Alignment(horizontal='center',\
                        vertical='bottom',\
                        text_rotation=0,\
                        wrap_text=True,\
                        shrink_to_fit=True,\
                        indent=0)
alg_lc=Alignment(horizontal='left',\
                        vertical='center',\
                        text_rotation=0,\
                        wrap_text=True,\
                        shrink_to_fit=True,\
                        indent=0)                           
                        
patch_file_name="merged_patch_this_week.txt"      
patch_file=open(patch_file_name,'r')        #get data patch text

wb=load_workbook('Android_Patch_Review-Y2015.xlsx')          #open excel to write
sheetnames = wb.get_sheet_names()                   
ws = wb.get_sheet_by_name(sheetnames[2])                    #get sheet
rows=len(ws.rows)

assert ws.cell(row=rows,column=1).value!=None, 'New Document or empty row at the end of the document? Please input at least one row!'
print "The original Excel document has %d rows totally." %(rows)
end_tag='type: stats'

for line in open(patch_file_name):
    line=patch_file.readline()
    if re.match(end_tag,line) is not None:    #end string
        break
    if  len(line)==1:                                       #go to next patch
        rows=rows+1
        continue
    line = line.strip()    
#    print line
    ws.cell(row=rows+1,column=1).value=ws.cell(row=rows,column=1).value+1           #Write No.
    ws.cell(row=rows+1,column=1).font=ft
    ws.cell(row=rows+1,column=1).border=bd
    ws.cell(row=rows+1,column=1).alignment=alg_cb
    ws.cell(row=rows+1,column=5).border=bd
    ws.cell(row=rows+1,column=9).border=bd
    
    if re.match('change',line) is not None:
        ws.cell(row=rows+1,column=2).value=re.sub('change','',line)           #Write Gerrit ID
        ws.cell(row=rows+1,column=2).font=ft
        ws.cell(row=rows+1,column=2).border=bd
        ws.cell(row=rows+1,column=2).alignment=alg_cb

    if re.match('url:',line) is not None:
        ws.cell(row=rows+1,column=3).value=re.sub('url:','',line)             #Write Gerrit url
        ws.cell(row=rows+1,column=3).font=ft
        ws.cell(row=rows+1,column=3).border=bd
        ws.cell(row=rows+1,column=3).alignment=alg_cb

    if re.match('project:',line) is not None:
        ws.cell(row=rows+1,column=6).value=re.sub('project:','',line)             #Write project
        ws.cell(row=rows+1,column=6).font=ft
        ws.cell(row=rows+1,column=6).border=bd
        ws.cell(row=rows+1,column=6).alignment=alg_lc
        
    if re.match('branch:',line) is not None:
        ws.cell(row=rows+1,column=7).value=re.sub('branch:','',line)              #Write branch
        ws.cell(row=rows+1,column=7).font=ft
        ws.cell(row=rows+1,column=7).border=bd
        ws.cell(row=rows+1,column=7).alignment=alg_cc
        
    if re.match('lastUpdated:',line) is not None:
        ws.cell(row=rows+1,column=8).value=re.sub('lastUpdated:|CST','',line)             #Write update time
        ws.cell(row=rows+1,column=8).font=ft
        ws.cell(row=rows+1,column=8).border=bd
        ws.cell(row=rows+1,column=8).alignment=alg_cc
        
    if re.match('commitMessage:',line) is not None:
        description_str=re.sub('commitMessage:','',line) 
    if re.match('Product:|BugID:|Description:|Unit Test:|Change-Id:',line) is not None:
        description_str=description_str+'\n'+line                       #
    if re.match('Signed-off-by:',line) is not None:
        description_str=description_str+'\n'+line
        ws.cell(row=rows+1,column=4).value=description_str                #Write patch description
        ws.cell(row=rows+1,column=4).font=ft
        ws.cell(row=rows+1,column=4).border=bd
        ws.cell(row=rows+1,column=4).alignment=alg_lc
wb.save('Android_Patch_Review-Y2015.xlsx')
print 'Android_Patch_Review-Y2015.xlsx saved!\nPatch Collection Done!'
#patch_file.close()

 

目前為止,基本功能已經實現,但是還有兩個問題沒有搞明白:

第一個是完整代碼中的最后一句注釋行,我搜到的幾篇介紹openpyxl的博客中,打開文件后都沒有close,所以我在代碼中也沒有close。理論上感覺還是需要的。等對文件對象的理解更加深入一些時會繼續考慮這個問題。

第二是運行該腳本時有一個warning," UserWarning: Discarded range with reserved name,warnings.warn("Discarded range with reserved name")“,目前還在搜索原因,如有明白的,也請不吝告知。

 

  (參考:http://blog.csdn.net/werm520/article/details/6898473


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM