在機器學習實戰書中第五章Logistic回歸中,sigmoid函數如下:
def sigmoid(inx): return longfloat(1.0/(1+exp(-inx)))
實際運行過程中,出現以下報警:
RuntimeWarning: overflow encountered in exp
這是因為參數值inx很大時,exp(inx)可能會發生溢出,解決方法是對sigmoid函數實現的優化,具體代碼如下:
def sigmoid(inx): if inx>=0: #對sigmoid函數的優化,避免了出現極大的數據溢出 return 1.0/(1+exp(-inx)) else: return exp(inx)/(1+exp(inx))
這樣做可以保證exp(inx)值始終小於1,避免極大溢出。
參考:
https://blog.csdn.net/newfayi/article/details/49893359
https://blog.csdn.net/cckchina/article/details/79915181(這種做法在exp(inx)值很大時仍然會發生溢出,原因見第三個鏈接)
https://stackoverflow.com/questions/24638059/runtimewarning-overflow-encountered-in-np-expx2