原文:工程能力UP | LightGBM的调参干货教程与并行优化

这是个人在竞赛中对LGB模型进行调参的详细过程记录,主要包含下面六个步骤: 大学习率,确定估计器参数n estimators num iterations num round num boost round 确定num leaves和max depth 确定min data in leaf 确定bagging fraction bagging freq和feature fraction 确定L L ...

2020-07-23 01:02 0 650 推荐指数:

查看详情

LightGBM笔记

LightGBM。该算法在不降低准确率的前提下,速度提升了10倍左右,占用内存下降了3倍左右。Lig ...

Thu Aug 29 01:07:00 CST 2019 0 655
自动库hyperopt+lightgbm demo

在此之前,要么网格调,要么随机,要么肉眼。虽然到一定程度,进步有限,但仍然很耗精力。 自动库hyperopt可用tpe算法自动,实测强于随机。 hyperopt 需要自己写个输入参数,返回模型分数的函数(只能求最小化,如果分数是求最大化的,加个负号),设置参数空间 ...

Thu Nov 08 22:25:00 CST 2018 0 1205
模型融合---LightGBM总结

1. 参数速查 使用num_leaves,因为LightGBM使用的是leaf-wise的算法,因此在调节树的复杂程度时,使用的是num_leaves而不是max_depth。 大致换算关系:num_leaves = 2^(max_depth)。它的值的设置应该小于 ...

Fri Mar 29 01:12:00 CST 2019 0 2672
【集成学习】lightgbm案例

lightgbm使用leaf_wise tree生长策略,leaf_wise_tree的优点是收敛速度快,缺点是容易过拟合。 # lightgbm关键参数 # lightgbm方法cv 代码github地址 ...

Thu Apr 05 21:38:00 CST 2018 3 14596
xgboost&lightgbm指南

本文重点阐述了xgboost和lightgbm的主要参数和技巧,其理论部分可见集成学习,以下内容主要来自xgboost和LightGBM的官方文档。 xgboost Xgboost参数主要分为三大类: General Parameters(通用参数):设置整体功能 Booster ...

Thu May 23 03:35:00 CST 2019 0 1689
LightGBM 方法(具体操作)

python金融风控评分卡模型和数据分析微专业课(博主亲自录制视频):http://dwz.date/b9vv 鄙人新手,最近用lightGBM有点猛,无奈在各大博客之间找不到具体的方法,于是将自己的notebook打印成markdown出来,希望可以跟大家互相学习 ...

Mon Nov 26 19:37:00 CST 2018 0 3791
【机器学习】:Xgboost/LightGBM使用与技巧

机器学习模型当中,目前最为先进的也就是xgboost和lightgbm这两个树模型了。那么我们该如何进行调试参数呢?哪些参数是最重要的,需要调整的,哪些参数比较一般,这两个模型又该如何通过代码进行调用呢?下面是一张总结了xgboost,lightbgm,catboost这三个模型调试参数的一些经验 ...

Mon Oct 18 06:44:00 CST 2021 0 880
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM