学习器模型中一般有两个参数：一类参数可以从数据中学习估计得到，还有一类参数无法从数据中估计，只能靠人的经验进行指定，后一类参数就叫超参数 比如，支持向量机里的C，Kernel，gama，朴素贝叶斯里的alpha等，在学习其模型的设计中，我们要搜索超参数空间为学习器模型找到最合理的超参数 ...

1.SVM简介 　　SVM方法建立在统计学VC维和结构风险最小化原则上，既可以用于分类（二/多分类）、也可用于回归和异常值检测。SVM具有良好的鲁棒性，对未知数据拥有很强的泛化能力，特别是在数据量较 ...

引自https://blog.csdn.net/wishchin/article/details/47948779 回归分析是建模和分析数据的重要工具。本文解释了回归分析的内涵及其优势，重点总结了 ...

进行参数的选择是一个重要的步骤。在机器学习当中需要我们手动输入的参数叫做超参数，其余的参数需要依靠数据来进行训练，不需要我们手动设定。进行超参数选择的过程叫做调参。 进行调参应该有一下准备条件： 一个学习器 一个参数空间 一个从参数空间当中寻找参数的方法 一个交叉验证的规则 ...

sklearn中的算法可以分为如下几部分 分类算法 回归算法 聚类算法 降维算法 模型优化 文本预处理 其中分类算法和回归算法又叫做监督学习，聚类算法和降维算法又叫做非监督学习。 1.分类算法 KNN算法 from ...

1、优化方式 硬件优化=》系统优化=》mysql配置优化=》SCHEMA优化=》sql优化=》其他解决方案（redis or MongoDB or Cassandra or HBase） 2、mysql配置分析 1）常见瓶颈 90%系统瓶颈都在IO上，所以提高IOPS尤为总要，iowait ...

# XGBoost和LightGBM部分参数对比表： lightgbm.sklearn参数介绍（官网） ...

1、通用参数（控制Xgboost的宏观功能） booster: [default=gbtree] gbtree: tree-based models，树模型做为基分类器 gblinear: linear models，线性模型做为基分类器 silent ...