对抗攻击领域综述（adversarial attack） 一、总结 一句话总结： 对抗攻击英文为adversarial attack。即对输入样本故意添加一些人无法察觉的细微的干扰，导致模型以高 ...

交叉熵损失函数（作用及公式推导） 一、总结 一句话总结： $$C = - \frac { 1 } { n } \sum _ { x } [ y \ln a + ( 1 - y ) \ln ( 1 ...

如何通俗理解泊松分布？（转） 一、总结 一句话总结： 泊松分布就是把时间段分细，用二次分布来计算每个时间段事情是否发生，然后求极限就会得到泊松分布的式子 P(N(t)=n) = (λt)^n*e ...

线性回归方程如何计算a和b（y=ax+b） 一、总结 一句话总结： 线性回归方程中的a和b都是有公式求的 二、线性回归方程如何计算a和b（y=ax+b） 博客对应课程的视频 ...

最小二乘法 与 均方误差的区别（总结） 一、总结 一句话总结： 基于均方误差最小化来进行模型求解的方法称为“最小二乘法”。——周志华《机器学习》 最小二乘法作为损失函数：没有除以总样本数m；均 ...

什么是线性变换和非线性变换 一、总结 一句话总结： [①]、从数值意义上，变换即函数，线性变换就是一阶导数为常数的函数，譬如y=kx，把y=kx拓展为n维空间的映射，x、y看做n维向量，当k为常 ...

GAN对抗神经网络（原理解析） 一、总结 一句话总结： (一)、GAN的主要灵感来源于博弈论中零和博弈的思想，应用到深度学习神经网络上来说，就是 (二)、**通过生成网络G（Generator ...

线性回归和逻辑回归的区别 一、总结 一句话总结： 线性回归预测的是一个连续值 逻辑回归给出的“是”和“否”的回答 二、线性回归和逻辑回归的区别 转自或参考：线性回归和逻辑回归的 ...

验证集真正作用 一、总结 一句话总结： 验证集的作用就是为了调整超参数 1、超参数？ 【超参数的值不是学习出来的】：大多数机器学习算法都有超参数，可以设置来控制算法行为。超参数的值不是 ...

简单认识Adam优化器 一、总结 一句话总结： Adam 是一种可以替代传统随机梯度下降过程的一阶优化算法，它能基于训练数据迭代地更新神经网络权重。 1、SGD 算法在科研和工程中的应用 ...