https://arimo.com/data-science/2016/bayesian-optimization-hyperparameter-tuning/ 贝叶斯优化：使用高斯过程作为代理函数，并且通常优化提升幅度的期望Expected Improvement(新试验相对当前最好观测 ...

前面的文章大致描述了基于高斯过程(GP)贝叶斯优化的原理框架，该框架中也存在了几个参数，本篇文章简单介绍如何对他们进行估计。 首先介绍一下贝叶斯优化框架的超参数有哪些： 回忆我们将高斯过程表述为以下形式: \[f ( x ) \sim G P \left( m ( x ) , k \left ...

【导读】机器学习中，调参是一项繁琐但至关重要的任务，因为它很大程度上影响了算法的性能。手动调参十分耗时，网格和随机搜索不需要人力，但需要很长的运行时间。因此，诞生了许多自动调整超参数的方法。贝叶斯优化是一种用模型找到函数最小值方法，已经应用于机器学习问题中的超参数搜索，这种方法性能好，同时比随机 ...

目录 简介 贝叶斯优化框架 概率代理模型 参数模型 汤普森采样和Beta-Bernouli模型 线性模型(Linear models) 非参数模型 高斯过程 ...

阅读本文默认具有一定的概率数理统计与随机过程基础。 假设我们有一个机器学习模型M（如XGBoost，SVM，神经网络等），其超参数为记为$x_i$，则每对M进行评估的结果可记为$y_i=f(x_i)$，在这里$y_i$可以是LOSS等评价指标。问题在于如何选择超参数找到我们的最优超参数$x ...

第一篇博客，浅谈自己对高斯过程和贝叶斯优化的理解，有误处欢迎指正。 一. 高斯过程回归 　　1. 高斯过程到底是个什么东西？！ 　　简单来说，高斯过程可以看成是一个函数，函数的输入是x，函数的输出是高斯分布的均值和方差。 　　对于一些X值有对应的Y值，从X到Y存在映射关系f，即f（X）=Y ...

...

看这个模型很久了，可能一直深入的不够，现把自己的一点愚见不断的贴上来，一起交流，共同进步。 贝叶斯非参数模型是一种定义在无限维参数空间上的贝叶斯模型。其大概的意思是说非参数模型的大小可以随着模型内数据的增大或减小而自适应模型的变化，可以根据数据的多少选择参数来确定模型（这一定义的直观解释参考 ...