使用Python的http.server實現一個簡易的Web Api對外提供HanLP拼音轉換服務

本文轉載自查看原文 2019-03-28 08:55 1573 Python

由於采集省市區鎮數據需要對地名進行拼音轉換，由於第三方高准確度接口對IP進行了限制，處理大量數據變得異常緩慢。

使用了一個折中的辦法，省市區 3級（3千+）用高准確度接口（幾乎沒有拼錯的地名），鎮級（4萬+）用本地HanLP提供的接口（大部分多音字還算是能拼正確）。

Github源碼：https://github.com/xiangyuecn/AreaCity-JsSpider-StatsGov/tree/master/assets/pinyin-python-server

另外我提供了一個臨時測試服務器，國內的但域名備案掉了走的海外線路，僅供測試，隨時可能關閉。測試：http://pinyin-test.haozgz.com/pinyin?txt=重慶着陸OK，重力看着沒有異常。

HanLP是一個優秀的開源自然語言處理工具，提供了頗為准確的拼音轉換功能。開始本想使用更為順手的nodejs來處理，但測試了Github上排第一的hotoo/pinyin庫，就是開了分詞，對多音字支持也不太理想。最后決定使用HanLPPython版來進行轉換，但是這個庫對地名的支持還是有限，都字地名很多轉換成dou囧，不過在同類型里面算是最好的。

新手第一次正經寫Python代碼，剛開始電腦上以前裝的Python 2.7.x，就按Python2寫了一個服務，發現字符串編碼需要轉來轉去，夠折騰的，但好歹功能沒問題。后面因為這個編碼問題，越想越覺得不舒服，一個優秀的語言哪有這么折騰的，就改成了3.6.x（Miniconda里面3.7.x環境SSL有問題，pip用不了，不願折騰了）。最終結果就是僅支持Python3，沒有了奇異的代碼。

http.server的簡單上手

創建服務

網上有很多例子，也都非常簡單，這個玩意也很容易上手。幾行代碼就能創建一個HTTP服務功能。

from http.server import HTTPServer, BaseHTTPRequestHandler

class HttpHandler(BaseHTTPRequestHandler):
      def do_GET(self):
            #服務功能實現
      def do_POST(self):
            #服務功能實現

httpd = HTTPServer(('127.0.0.1', 9527), HttpHandler)
httpd.serve_forever()

和nodejs的 http模塊寫出來的服務一樣簡潔。只監聽127.0.0.1省的配置防火牆，只讓本機訪問。

接收請求參數

一個Web Api不僅僅有path，還要有query string x-www-form-urlencoded請求參數支持。urllib.parse.parse_qs能輕松解析出請求數據。

class HttpHandler(BaseHTTPRequestHandler):
    def do_GET(self):
        path,args=urllib.parse.splitquery(self.path)
        self._response(path, args)

    def do_POST(self):
        args = self.rfile.read(int(self.headers['content-length'])).decode("utf-8")
        self._response(self.path, args)
        
   def _response(self, path, args):
        if args:
            args=urllib.parse.parse_qs(args).items()
            args=dict([(k,v[0]) for k,v in args])
        else:
            args={}
        # 輕松就解析出了請求參數對象

執行實際業務邏輯

有了path和args，就直接可以上業務邏輯了。具體這個請求是要處理什么功能，根據path來判斷一下即可，功能需要的參數從args里面取。

整個拼音服務完整代碼

from pyhanlp import *

import traceback
import json
import urllib
from http.server import HTTPServer, BaseHTTPRequestHandler


class HttpHandler(BaseHTTPRequestHandler):
    def _response(self, path, args):
        code=200
        rtv={'c':0,'m':'','v':''}
        
        try:
            if args:
                args=urllib.parse.parse_qs(args).items()
                args=dict([(k,v[0]) for k,v in args])
            else:
                args={}
            # ****************************************
            # ***************頁面開始*****************
            # ****************************************
            
            # ==>
            if path=="/":
                rtv["v"]="服務器已准備好"
                
            # ==>
            elif path=="/pinyin":
                txt=args.get("txt","")
                pinyin_list = HanLP.convertToPinyinList(txt)
                list=[]
                Pinyin=JClass("com.hankcs.hanlp.dictionary.py.Pinyin")
                for i in range(pinyin_list.size()):
                    pinyin=pinyin_list[i]
                    if pinyin==Pinyin.none5:
                        list.append('F'+txt[i])
                    else:
                        list.append(pinyin.getPinyinWithoutTone())
                        
                rtv["v"]=list
                
                
            # ****************************************
            # ****************頁面結束****************
            # ****************************************
            else:
                code=404
                rtv["c"]=404
                rtv["m"]="路徑"+path+"不存在"
        except Exception as e:
            rtv["c"]=1
            rtv["m"]='服務器錯誤：'+str(e)+"\n"+traceback.format_exc()
            
        try:
            rtv=json.dumps(rtv,ensure_ascii=False)
        except Exception as e:
            rtv={'c':2,'m':'服務器返回數據錯誤：'+str(e)+"\n"+traceback.format_exc(),'v':''}
            rtv=json.dumps(rtv,ensure_ascii=False)
        
        self.send_response(code)
        self.send_header('Content-type', 'text/json; charset=utf-8')
        self.send_header('Access-Control-Allow-Origin', '*')
        self.end_headers()
        self.wfile.write(rtv.encode())
    
    def do_GET(self):
        path,args=urllib.parse.splitquery(self.path)
        self._response(path, args)

    def do_POST(self):
        args = self.rfile.read(int(self.headers['content-length'])).decode("utf-8")
        self._response(self.path, args)


httpd = HTTPServer(('127.0.0.1', 9527), HttpHandler)
httpd.serve_forever()

HanLP的安裝

由於HanLP是一個java庫，因此使用了pyhanlp這個Python包，底層還是用jpype1來調用HanLP 的java接口。Windows上還是根據wiki來完成的安裝，這庫給予了蠻實用的安裝方法。

本方法只在windows 7 環境下運行過，其他環境自測。

:: 安裝一個有效的版本
> conda create -n python364 python=3.6.4
:: 切換版本
> activate python364
:: 安裝jpype1
> conda install -c conda-forge jpype1
:: 安裝pyhanlp
> pip install pyhanlp
:: 執行一遍，會提示要下載哪些東西
> hanlp

:: 環境都搞定后就可以運行服務了
> python server.py