1 导入实验所需要的包 2 下载MNIST数据集以及读取数据 3 定义模型 4 参数初始化 5 定义训练函数 6 开始训练 ...

1 导入需要的包 2 下载MNIST数据集以及读取数据 3 初始化模型参数 4 手动实现dropout 设丢弃概率为$p$，那么有$p$ 的概率 $h_i$ 会被清 零，有$1−p$ 的概率 $h_i$ 会除以 $1−p$ 做拉伸。由此定义进行 ...

1 导入实验需要的包 2 加载数据集 3 初始化参数 4 定义激活函数 5 定义网络模型 6 定义损失函数和优化算法 7 定义评价函数 8 定义训练函数 ...

1 导入需要的包 2 下载MNIST数据集以及读取数据 3 定义模型 4 定义训练模型 5 比较不同dropout的影响 ...

1 导入实验所需要的包 2 下载MNIST数据集和读取数据 3 定义模型参数 4 定义模型 第一种：定义一个有 三层 的前馈神经网络 第二种：定义一个有 四层 的前馈神经网络 第三种：定义一个有 五层 的前馈 ...

本节主要是填前面的坑，前面要对正则化，以及多分类的问题进行一个单独总结，这里就通过搜集一些网上资料对这两块内容进行一个总结。 1.正则化 　　正则化是一种回归形式，为了防止模型的过拟合的方法，它将系数估计（coefficient estimate）朝零的方向进行约束、调整或缩小 ...

sklearn中实现多分类任务（OVR和OVO） 1、OVR和OVO是针对一些二分类算法（比如典型的逻辑回归算法）来实现多分类任务的两种最为常用的方式，sklearn中专门有其调用的函数，其调用过程如下所示： 实现结果如下所示： ...

1.导言 现在多任务学习根据实现方法可以粗略地被分为两种，一个是基于神经网络的多任务学习[1][2][3][4]，这种多任务学习在CV和NLP取得了大量的应用。 然而我们最根溯源，其实多任务学习最开始并不是基于神经网络的，而是另一种经典的方法——基于正则表示的多任务学习，我们这篇文章也主要 ...