情况一：二元分类 这部分使用的数据集是判断网页是暂时的还是长青的。因为涉及到了文本的信息，所以需要进行文本的数字化和向量化。 在这部分中，机器学习分为三个部分，第一部分是建立机器学习流程pipeline，第二部分是训练，第三部分是预测。 在建立机器学习流程pipeline中包含4个阶段 ...

一、关于spark ml pipeline与机器学习一个典型的机器学习构建包含若干个过程 1、源数据ETL 2、数据预处理 3、特征选取 4、模型训练与验证 以上四个步骤可以抽象为一个包括多个步骤的流水线式工作，从数据收集开始至输出我们需要的最终结果。因此，对以上多个步骤、进行抽象建模，简化 ...

Spark提供了常用机器学习算法的实现， 封装于spark.ml和spark.mllib中. spark.mllib是基于RDD的机器学习库， spark.ml是基于DataFrame的机器学习库. 相对于RDD， DataFrame拥有更丰富的操作API, 可以进行更灵活的操作. 目前 ...

一、jenkins pipeline 1.jenkins 什么是Pipeline 要实现CD，先要实现CI。CD Pipeline就是一个代码文件，里面把你项目业务场景都通过Groovy代码和Pipeline语法实现，一个一个业务串联起来，全部实现自动化，从代码仓库到生产环境完成部署的自动化 ...

[ML学习笔记] XGBoost算法 ##回归树 决策树可用于分类和回归，分类的结果是离散值（类别），回归的结果是连续值（数值），但本质都是特征（feature）到结果/标签（label）之间的映射。 这时候就没法用信息增益、信息增益率、基尼系数来判定树的节点分裂了，那么回归树采用新的方式 ...

Redis提供了5种数据结构,但除此之外,Redis还提供了注入慢查询分析,Redis Shell、Pipeline、事务、与Lua脚本、Bitmaps、HyperLogLog、PubSub、GEO等附加功能,这些功能可以在某些场景发挥很重要的作用. https ...

　　一个简单的Pipeline，用作estimator。Pipeline由有序列的stages组成，每个stage是一个Estimator或者一个Transformer。 　　当Pipeline调用fit，stages按顺序被执行。如果一个stage是一个Estimator，将调用 ...

[ML学习笔记] 回归分析（Regression Analysis） 回归分析：在一系列已知自变量与因变量之间相关关系的基础上，建立变量之间的回归方程，把回归方程作为算法模型，实现对新自变量得出因变量的关系。 回归与分类的区别：回归预测的是连续变量（数值），分类预测的是离散变量（类别 ...