机器学习算法中如何选取超参数：学习速率、正则项系数、minibatch size 本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习算法中，如何选取初始的超参数的值。（本文会不断补充） 学习速率 ...

1. 正则化概述（Regularization） 监督学习可以简单的理解为在最小化loss function 的同时，保证模型的复杂度尽可能的低，防止出现过拟合（overfitting）。常用的loss函数有square loss(Regression)，Hinge ...

机器学习是时下流行AI技术中一个很重要的方向，无论是有监督学习还是无监督学习都使用各种“度量”来得到不同样本数据的差异度或者不同样本数据的相似度。良好的“度量”可以显著提高算法的分类或预测的准确率，本文中将介绍机器学习中各种“度量”，“度量”主要由两种，分别为距离、相似度和相关系数 ...

参考文献:Hyperband: Bandit-Based Configuration Evaluation for Hyperparameter Optimization I. 传统优化算法 机器学习中模型性能的好坏往往与超参数(如batch size,filter size ...

的次数。 　　2. 计算公式如下： 　　 　　其中一项条件概率可以通过朴素贝叶斯条件独立展开。要 ...

机器学习算法 什么是程序（Program） 计算机程序，是指为了得到某种结果而可以由计算机（等具有信息处理能力的装置）执行的代码化指令序列（或者可以被自动转换成代码化指令序列的符号化指令序列或者符号化语句序列）。 通俗讲，计算机给人干活，但它不是人，甚至不如狗懂人的需要（《小羊肖恩 ...

Batch Size：批尺寸。机器学习中参数更新的方法有三种： （1）Batch Gradient Descent，批梯度下降，遍历全部数据集计算一次损失函数，进行一次参数更新，这样得到的方向能够更加准确的指向极值的方向，但是计算开销大，速度慢； （2）Stochastic Gradient ...

在opencv3.0中，提供了一个ml.cpp的文件，这里面全是机器学习的算法，共提供了这么几种： 1、正态贝叶斯：normal Bayessian classifier 我已在另外一篇博文中介绍过：在opencv3中实现机器学习之：利用正态贝叶斯分类 2、K最近邻：k nearest ...