在支持向量机(以下简称SVM)的核函数中，高斯核(以下简称RBF)是最常用的，从理论上讲， RBF一定不比线性核函数差，但是在实际应用中，却面临着几个重要的超参数的调优问题。如果调的不好，可能比线性核函数还要差。所以我们实际应用中，能用线性核函数得到较好效果的都会选择线性核函数。如果线性核 ...

常规参数General Parameters booster[default=gbtree]:选择基分类器，可以是：gbtree,gblinear或者dart。gbtree和draf基于树模型，而gblinear基于线性模型。 slient[default=0]：是否有运行信息输出 ...

1 参数含义 max_depth: 设置树的最大深度,默认为-1,即不限制最大深度,它用于限制过拟合 num_leave: 单颗树的叶子数目,默认为31 eval_metric: 评价指标,可以用lgb自带的,也可以自定义评价函数, View Code ...

原文: Simple Tutorial on SVM and Parameter Tuning in Python and R 介绍 数据在机器学习中是重要的一种任务，支持向量机(SVM)在模式分类和非线性回归问题中有着广泛的应用. SVM最开始是由N. Vapnik ...

我们常说调参，但具体调的是什么，在此做一份总结： 超参数是我们控制我们模型结构、功能、效率等的 调节旋钮，具体有哪些呢： 学习率 epoch 迭代次数 隐藏层 激活函数 batch size 优化器，如：Adam，SGD ...

在利用gridseachcv进行调参时，其中关于scoring可以填的参数在SKlearn中没有写清楚，就自己找了下，具体如下： Scoring Function Comment Classification ...

遗传算法（Genetic algorithm）遵循适者生存、优胜劣汰的法则，即寻优过程中保留有用的，去除无用的。在科学和生产实践中表现为在所有可能的解决方法中找出最符合该问题所要求的条件的解决方法，即找出一个最优解。 遗传算法有4个参数需要提前设定，一般在以下范围内进行设置： （1）群体大小 ...

search_k serach_k越大，越准确，但是要在时间和准确率之间取个trade off During the query it will inspect up to search_k ...