前言
最近项目用到了Python作为网站的前端，使用的框架是基于线程池的Cherrypy，但是前端依然有一些比较‘重’的模块。由于python的多线程无法很好的利用多核的性质，所以觉得把这些比较‘重’的功能用多进程进行管理。
Python 多进程编程
Python的多进程编程主要依赖multiprocessing库，父进程的参数直接拷贝给子进程，因为Linux进程的copy on write特性，如果子进程不对参数进行修改就不会进行拷贝工作，也就是说父进程，子进程共享参数。而参数的返回则通过管道pipe进行。
下面是简单的代码例子：
import multiprocessing def heavy_load_func(N, child_conn): '''function do heavy computing''' try: #do_some_heavy_computing child_conn.send(return_value) #return something except Exception,e: child_conn.send(e) #将异常通过管道送出 if __name__=='__main__' '''main function''' try: parent_conn, child_conn = multiprocessing.Pipe() hild_process = multiprocessing.Process(target=heavy_load_func, args=(10, child_conn)) child_process.start() child_process.join() child_return = parent_conn.recv() print child_return except Exception,e: logger.error(e)多进程异常处理
但是如果heavy_load_func在执行过程中抛出异常就比较麻烦了，当然我们可以通过Pipe将捕捉到的异常信息传到父进程，但是这样父进程只是得到了一条返回值，并没有触发父进程的异常机制，如何把子进程的异常抛出给父进程进行处理呢？
本文提供一种方法，通过引入一个代理类Process对multiprocessing.Process进行重载，Process中重写multiprocessing.Process的run方法，并且加入exception属性，通过exception来判断子进程是否触发异常。
class Process(multiprocessing.Process): def __init__(self, *args, **kwargs): multiprocessing.Process.__init__(self, *args, **kwargs) self._pconn, self._cconn = multiprocessing.Pipe() self._exception = None def run(self): try: multiprocessing.Process.run(self) self._cconn.send(None) except Exception as e: tb = traceback.format_exc() self._cconn.send((e, tb)) @property def exception(self): if self._pconn.poll(): self._exception = self._pconn.recv() return self._exception这样我们的代码就可以写成这样：
if __name__=='__main__': '''main function''' try: parent_conn, child_conn = multiprocessing.Pipe() #child_process = multiprocessing.Process(target=heavy_load_func, args=(10, child_conn)) child_process = Process(target=heavy_load_func, args=(10, child_conn)) child_process.start() child_process.join() if child_process.exception: error, traceback = child_process.exception print error child_process.terminate() else: child_return = parent_conn.recv() #如果不子进程不抛出异常就接受值，否则主进程退出，避免主进程被管道阻塞！ print child_return except Exception, e: print e总结
本文主要介绍了一种Python多进程异常处理的方法，通过引入代理类来进行异常的转发。文章介绍的比较简单，其实里面有很多东西。