贝叶斯优化 （BayesianOptimization） 1 问题提出 神经网咯是有许多超参数决定的，例如网络深度，学习率，正则等等。如何寻找最好的超参数组合，是一个老人靠经验，新人靠运气的任务。 ...

梯度消失问题和梯度爆炸问题，总的来说可以称为梯度不稳定问题。 【要背住的知识】：用ReLU代替Sigmoid，用BN层，用残差结构解决梯度消失问题。梯度爆炸问题的话，可以用正则化来限制。sigmoi ...

文章来自公众号【机器学习炼丹术】，回复“炼丹”即可获得海量学习资料哦！ 目录 1 动态图的初步推导 2 动态图的叶子节点 3. grad_fn 4 静态图 ...

1 定义 百度百科的定义： 它是通过把所有地表真实分类中的像元总数（N）乘以混淆矩阵对角线（Xkk）的和，再减去某一类地表真实像元总数与被误分成该类像元总数之积对所有类别求和的结果，再除以总 ...

作者前言 在2020年还在整理XGB的算法，其实已经有点过时了。。不过，主要是为了学习算法嘛。现在的大数据竞赛，XGB基本上已经全面被LGB模型取代了，这里主要是学习一下Boost算法。之前已经在其 ...

校招在即，准备准备一些面试可能会用到的东西吧。希望这次面试不会被挂。 基本概念 说到机器学习模型的误差，主要就是bias和variance。 Bias：如果一个模型的训练错误大，然后验证 ...

什么是过拟合 过拟合就是在训练集上表现得非常好，在测试集上表现得不好。也就是我们俗称的泛化能力弱。 过拟合无法避免，只能缓解，那么如何缓解呢？方法太多了。这篇文章一一介绍。 数据集增强Augme ...