已知數據點$p_i(x_i, y_i), i = 1, 2, ..., n$,求近似曲線$g(x, y)$, 使得近似曲線與$f(x, y)$的偏差最小。(為了使計算簡單,以$f(x, y)-g(x, y)$的平方和最小作為目標函數。)
多項式擬合
設待擬合多項式為:$y = g(x)=a_0+{a_1}x^1+{a_2}x^2+...+{a_k}x^k$,那么數據集中各點到擬合曲線對應點的偏差平方和為:
$R^2 = \sum_{i=1}^{n}[y_i - (a_0+{a_1}x_i^1+{a_2}x_i^2+...+{a_k}x_i^k)]^2$
將上式分別對$a_i$求偏導,並令其偏導數等於0,可得:

對上式進行化簡,可得:

將上述方程組表示成矩陣的形式有:

將上式用矩陣和向量表示為:
$X{\times}A = Y$
該式的最小二乘解為對多項式系數的估計。
