各种优化器的比较 莫烦的对各种优化通俗理解的视频 ...

1.简介 torch.autograd.Variable是Autograd的核心类，它封装了Tensor，并整合了反向传播的相关实现 Varib ...

一、机器学习算法分类: 监督学习：提供数据和数据分类标签。——分类、回归 非监督学习：只提供数据，不提供标签。 半监督学习 强化学习：尝试各种手段，自己去适应环境和规则。总结经验利用反馈，不断提高算法质量 遗传算法：淘汰弱者，留下强者，进行繁衍和变异穿产生更好的算法。 二、选择机器学习 ...

Q1:什么是神经网络? Q2:torch vs numpy Numpy：NumPy系统是Python的一种开源的数值计算扩展。这种工具可用来存储和处理大型矩阵，比Python自身的嵌套列表 ...

1. sigmod函数 函数公式和图表如下图 在sigmod函数中我们可以看到，其输出是在(0,1)这个开区间内 ...

...

前面我们学习过了损失函数，损失函数Loss是衡量模型输出与真实标签之间的差异的。有了损失函数Loss，通过Loss根据一定的策略 来更新模型中的参数使得损失函数Loss逐步降低；这便是优化器optimizer的任务。本节优化器optimizer主要包括3方面内容，分别是（1）什么是优化器，优化器 ...

一、tensorflow常用的优化器 　　关于优化方法请查看：神经网络DNN —— 优化算法。 　　前面模型训练的的优化方法一直用的都是普通的梯度下降法，对应的优化器为tf.train.GradientDescentOptimizer，在tensorflow中优化器属于class ...