原文:百度PaddlePaddle入門-15(訓練中的調試與優化)

在模型訓練部分,為了保證模型的真實效果,我們需要對模型進行一些調試和優化,主要分為以下五個環節: 計算分類准確率,觀測模型訓練效果。 交叉熵損失函數只能作為優化目標,無法直接准確衡量模型的訓練效果。准確率可以直接衡量訓練效果,但由於其離散性質,不適合做為損失函數優化神經網絡。 檢查模型訓練過程,識別潛在問題。 如果模型的損失或者評估指標表現異常,我們通常需要打印模型每一層的輸入和輸出來定位問題, ...

2020-02-24 10:55 0 1707 推薦指數:

查看詳情

百度PaddlePaddle入門-16(模型加載及恢復訓練

訓練好的模型保存到磁盤之后,應用程序可以隨時加載模型,完成預測任務。但是在日常訓練工作我們會遇到一些突發情況,導致訓練過程主動或被動的中斷。如果訓練一個模型需要花費幾天的訓練時間,中斷后從初始狀態重新訓練是不可接受的。 飛槳支持從上一次保存狀態開始訓練,只要我們隨時保存訓練過程中的模型狀態 ...

Thu Feb 27 19:16:00 CST 2020 0 3265
百度PaddlePaddle入門-14(多個CPU加速訓練

接下來介紹在paddlepaddle如何使用多CPU來加速訓練。 接着前面幾節講的手寫數字識別部分,在啟動訓練前,加載數據和網絡結構的代碼部分均不變。 View Code 單GPU訓練 現實生活,我們可能會遇到更復雜的機器學習、深度學習任務 ...

Sun Feb 23 16:30:00 CST 2020 0 3375
百度PaddlePaddle入門-9(建模)

和預處理操作。 模型設計:搭建神經網絡結構。 訓練配置:配置優化器、學習率、訓練參數。 ...

Sun Feb 09 17:47:00 CST 2020 0 1220
百度PaddlePaddle入門-6 (Numpy應用)

線性代數 Numpy實現了線性代數中常用的各種操作,並形成了numpy.linalg線性代數相關的模塊。其中包括: diag 以一維數組的形式返回方陣的對角線(或非對角線)元素,或將一維數組轉換為方陣(非對角線元素為0) dot 矩陣乘法 trace 計算對角線元素 ...

Sat Feb 08 02:28:00 CST 2020 0 695
百度PaddlePaddle入門-3(框架)

。 節省大量編寫底層代碼的精力:屏蔽底層實現,用戶只需關注模型的邏輯結構,降低了深度學習入門門檻。 ...

Tue Feb 04 21:24:00 CST 2020 0 2068
百度PaddlePaddle入門-5(Numpy,Random)

Numpy是Numerical Python的簡稱,是Python中高性能科學計算和數據分析的基礎包。Numpy提供了一個多維數組類型ndarray,它具有矢量算術運算和復雜廣播的能力,可以實現快速的計算並且能節省存儲空間。在使用Python調用飛槳API完成深度學習任務的過程 ...

Fri Feb 07 02:27:00 CST 2020 2 705
百度PaddlePaddle入門-12(損失函數)

損失函數是模型優化的目標,用於衡量在無數的參數取值,哪一個是最理想的。損失函數的計算在訓練過程的代碼,每一輪的訓練代碼均是一致的過程:先根據輸入數據正向計算預測輸出,再根據預測值和真實值計算損失,最后根據損失反向傳播梯度並更新參數。 在之前的方案,我們照抄了房價預測模型的損失函數-均方誤差 ...

Wed Feb 12 01:13:00 CST 2020 0 1371
百度PaddlePaddle入門-10(數據處理)

在“手寫數字識別”案例的快速入門,我們調用飛槳提供的API(paddle.dataset.mnist)加載MNIST數據集。但在工業實踐,我們面臨的任務和數據環境千差萬別,需要編寫適合當前任務的數據處理程序。 但是編寫自定義的數據加載函數,一般會涉及以下四個部分 ...

Sun Feb 09 23:04:00 CST 2020 2 2224
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM