原文:百度PaddlePaddle入门-15(训练中的调试与优化)

在模型训练部分,为了保证模型的真实效果,我们需要对模型进行一些调试和优化,主要分为以下五个环节: 计算分类准确率,观测模型训练效果。 交叉熵损失函数只能作为优化目标,无法直接准确衡量模型的训练效果。准确率可以直接衡量训练效果,但由于其离散性质,不适合做为损失函数优化神经网络。 检查模型训练过程,识别潜在问题。 如果模型的损失或者评估指标表现异常,我们通常需要打印模型每一层的输入和输出来定位问题, ...

2020-02-24 10:55 0 1707 推荐指数:

查看详情

百度PaddlePaddle入门-16(模型加载及恢复训练

训练好的模型保存到磁盘之后,应用程序可以随时加载模型,完成预测任务。但是在日常训练工作我们会遇到一些突发情况,导致训练过程主动或被动的中断。如果训练一个模型需要花费几天的训练时间,中断后从初始状态重新训练是不可接受的。 飞桨支持从上一次保存状态开始训练,只要我们随时保存训练过程中的模型状态 ...

Thu Feb 27 19:16:00 CST 2020 0 3265
百度PaddlePaddle入门-14(多个CPU加速训练

接下来介绍在paddlepaddle如何使用多CPU来加速训练。 接着前面几节讲的手写数字识别部分,在启动训练前,加载数据和网络结构的代码部分均不变。 View Code 单GPU训练 现实生活,我们可能会遇到更复杂的机器学习、深度学习任务 ...

Sun Feb 23 16:30:00 CST 2020 0 3375
百度PaddlePaddle入门-9(建模)

和预处理操作。 模型设计:搭建神经网络结构。 训练配置:配置优化器、学习率、训练参数。 ...

Sun Feb 09 17:47:00 CST 2020 0 1220
百度PaddlePaddle入门-6 (Numpy应用)

线性代数 Numpy实现了线性代数中常用的各种操作,并形成了numpy.linalg线性代数相关的模块。其中包括: diag 以一维数组的形式返回方阵的对角线(或非对角线)元素,或将一维数组转换为方阵(非对角线元素为0) dot 矩阵乘法 trace 计算对角线元素 ...

Sat Feb 08 02:28:00 CST 2020 0 695
百度PaddlePaddle入门-3(框架)

。 节省大量编写底层代码的精力:屏蔽底层实现,用户只需关注模型的逻辑结构,降低了深度学习入门门槛。 ...

Tue Feb 04 21:24:00 CST 2020 0 2068
百度PaddlePaddle入门-5(Numpy,Random)

Numpy是Numerical Python的简称,是Python中高性能科学计算和数据分析的基础包。Numpy提供了一个多维数组类型ndarray,它具有矢量算术运算和复杂广播的能力,可以实现快速的计算并且能节省存储空间。在使用Python调用飞桨API完成深度学习任务的过程 ...

Fri Feb 07 02:27:00 CST 2020 2 705
百度PaddlePaddle入门-12(损失函数)

损失函数是模型优化的目标,用于衡量在无数的参数取值,哪一个是最理想的。损失函数的计算在训练过程的代码,每一轮的训练代码均是一致的过程:先根据输入数据正向计算预测输出,再根据预测值和真实值计算损失,最后根据损失反向传播梯度并更新参数。 在之前的方案,我们照抄了房价预测模型的损失函数-均方误差 ...

Wed Feb 12 01:13:00 CST 2020 0 1371
百度PaddlePaddle入门-10(数据处理)

在“手写数字识别”案例的快速入门,我们调用飞桨提供的API(paddle.dataset.mnist)加载MNIST数据集。但在工业实践,我们面临的任务和数据环境千差万别,需要编写适合当前任务的数据处理程序。 但是编写自定义的数据加载函数,一般会涉及以下四个部分 ...

Sun Feb 09 23:04:00 CST 2020 2 2224
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM