2.1 一元线性回归模型 一元线性回归是描述两个变量之间统计关系的最简单的回归模型，通过该回归模型的建立过程，我们可以了解到回归分析方法的基本统计思想和在实际问题中的应用原理。 2.1.1 一元线性回归模型的数学形式 (1) 一元线性理论回归模型 描述 \(x\) 与 \(y ...

进行的。 由于假设检验的回归方程都是一元线性回归，因此对回归系数的显著性检验与对回归方程的显著性检验一 ...

2.5 残差分析 一个线性回归方程通过了 \(t\) 检验或 \(F\) 检验，只是表明变量 \(x\) 与变量 \(y\) 之间的线性关系是显著的，或者说线性回归方程是有效的，但这并不能保证数据拟合的效果好，也不能排除由于某些原因导致的数据不可靠，比如异常值的出现、周期性因素的干扰 ...

个人记录，大部分摘自概率论与数理统计 一元线性回归模型 设y与x间有相关关系，称x为自变量，y为因变量，我们只考虑在x是可控变量，只有y是随机变量，那么他们之间的相关关系可以表示为 y=f(x)+ε 其中ε是随机误差，一般假设ε~N（0，σ2）。由于ε是随机变量，导致y也是随机变量 ...

PLSR的基本原理与推导，我在这篇博客中有讲过。 0.偏最小二乘回归集成了多元线性回归、主成分分析和典型相关分析的优点，在建模中是一个更好的选择，并且MATLAB提供了完整的实现，应用时主要的问题是： 注意检验，各种检验参数：有关回归的检验以及有关多元分析的检验 ...

3.6 多元线性回归的区间估计 3.6.1 回归系数的置信区间 当我们有了参数向量 \(\bm{\beta}\) 的估计量 \(\hat{\bm{\beta}}\) 时，需构造 \(\beta_j\) 的一个区间——以 \(\hat{\beta}_j\) 为中心的区间，该区间以一定概率包含 ...

3.2 回归参数的估计 与一元线性回归类似，我们需要对回归参数进行估计。估计的方法一般有两种，最小二乘估计和最大似然估计。 3.2.1 回归参数的普通最小二乘估计 多元线性回归方程未知参数 \(\beta_0\)，\(\beta_1\)，\(\cdots\)，\(\beta_p ...

3.3 回归参数估计量的性质 归纳回归参数估计量的性质如下。 3.3.1 线性性 在多元线性回归中，无论应用最小二乘估计还是最大似然估计，得到回归参数向量 \(\hat{\bm{\beta}}\) 是随机向量 \(\bm{y}\) 的一个线性变换，具体表示为 \[\hat{\bm ...