最近偶尔在重温统计学，发现自己工作后用了各种高级的统计分析方法，各种统计模型，却忽视了统计学中一些最基础的知识，而这些知识是所有这些高级方法的基础，基础不扎实，高级方法用起来真觉得底气不足，今天看到哑变量在回归分析中的应用，总结如下： 哑变量（Dummy Variable ...

数据集： \[D=\lbrace (x_1,y_1),(x_2,y_2),...,(x_m,y_m)\rbrace \] 其中： \[x_i = (x_{i1};x_{i2};.. ...

一、理论 二、数据集 三、代码实现 clear all; clc; data = load('ex1data1.txt'); X = data(:, 1); y = data(:, 2); m = length(y); % number of training ...

用梯度等于0的方式求得全局最优解： 上述方程与一般线性回归方程相比多了一项λI，其中I表示单位矩阵 ...

弹性网回归是lasso回归和岭回归的结合，其代价函数为： 若令，则 由此可知，弹性网的惩罚系数恰好为岭回归罚函数和Lasso罚函数的一个凸线性组合．当α=0时，弹性网回归即为岭回归；当 α=1时，弹性网回归即为Lasso回归．因此，弹性网回归兼有Lasso回归和岭回归的优点，既能达到 ...

代码来源：https://github.com/eriklindernoren/ML-From-Scratch 首先定义一个基本的回归类，作为各种回归方法的基类： 说明：初始化时传入两个参数，一个是迭代次数，另一个是学习率。initialize_weights()用于初始化权重 ...

Lasso回归于岭回归非常相似，它们的差别在于使用了不同的正则化项。最终都实现了约束参数从而防止过拟合的效果。但是Lasso之所以重要，还有另一个原因是：Lasso能够将一些作用比较小的特征的参数训练为0，从而获得稀疏解。也就是说用这种方法，在训练模型的过程中实现了降维(特征筛选)的目的 ...

python代码实现回归分析--线性回归 Aming 科技 ...