正交多項式介紹及應用

https://www.cnblogs.com/louisanu/p/13285394.html

1 正交多項式的定義#

1.1 正交多項式定義#

定義： 一個多項式序列 pn(x)∞n=0pn(x)n=0∞，其階數為 [pn(x)]=n[pn(x)]=n ，對於每一個 nn，這個多項式序列在開區間 (a,b)(a,b) 上關於權函數 w(x)w(x) 正交，如果：

 

∫baw(x)pm(x)pn(x)dx=hnδmn∫abw(x)pm(x)pn(x)dx=hnδmn

 

這里 δmnδmn為狄拉克函數，且 hnhn 為常數。

這里的權函數 w(x)w(x) 在區間 (a,b)(a,b) 是連續且正的以使得下式存在：

 

μn=∫baw(x)xndx,n=0,1,2,⋯μn=∫abw(x)xndx,n=0,1,2,⋯

 

則多項式 ff 和多項式 gg 的內積定義為：

 

⟨f,g⟩:=∫baw(x)f(x)g(x)dx⟨f,g⟩:=∫abw(x)f(x)g(x)dx

 

區間 (a,b)(a,b) 稱為正交區間，正交區間未必是有限區間。

例1 三角函數的正交性
對於三角函數序列 1,sin(θ),cos(θ),sin(2θ),cos(2θ),...,cos(nθ)1,sin(θ),cos(θ),sin(2θ),cos(2θ),...,cos(nθ)，n=1,2,...,∞n=1,2,...,∞，他們在區間 (0,2π)(0,2π) 的正交性為：

 

∫2π0sin(nθ)cos(mθ)dθ=δmn∫02πsin⁡(nθ)cos⁡(mθ)dθ=δmn

 

圖1展現了 sin(θ)sin(θ) 和 cos(θ)cos(θ) 在區間 (0,2π)(0,2π) 上的正交性，圖中藍線為 sin(θ)∗cos(θ)sin(θ)∗cos(θ) 的值，對其積分就相當於求圖中陰影部分的面積，很明顯，陰影部分的面積加上符號后求和為0。

圖1. 三角函數的正交性示意圖

1.2 施密特正交化（Schmidt orthogonalization）#

施密特正交化方法是將一組線性無關的向量組正交化的方法，對正交化后的向量組進行標准化處理，可進一步得到一組標准正交基。施密特正交化的處理步驟如下：

 

β1=α1β2=α2−⟨α2,β1⟩⟨β1,β1⟩β1⋯βn=αn−⟨αn,β1⟩⟨β1,β1⟩β1−⟨αn,β2⟩⟨β2,β2⟩β2−⋯−⟨αn,βn−1⟩⟨βn−1,βn−1⟩βn−1β1=α1β2=α2−⟨α2,β1⟩⟨β1,β1⟩β1⋯βn=αn−⟨αn,β1⟩⟨β1,β1⟩β1−⟨αn,β2⟩⟨β2,β2⟩β2−⋯−⟨αn,βn−1⟩⟨βn−1,βn−1⟩βn−1

 

例子：將三維空間中的一組線性無關向量 a,b,ca,b,c 用施密特正交化方法處理得到正交向量組 x,y,zx,y,z。

步驟如下：

 

x=ay=b−⟨b,x⟩⟨x,x⟩x=|b|cos(θ)|a|az=c−⟨c,x⟩⟨x,x⟩x−⟨c,y⟩⟨y,y⟩yx=ay=b−⟨b,x⟩⟨x,x⟩x=|b|cos⁡(θ)|a|az=c−⟨c,x⟩⟨x,x⟩x−⟨c,y⟩⟨y,y⟩y

 

三維空間中施密特正交化方法的幾何描述如圖2所示

圖2. 施密特正交化幾何示意圖

2 經典正交多項式#

經典的正交多項式有雅克比多項式，切比雪夫多項式，勒讓德多項式，拉蓋爾多項式，伯恩斯坦多項式，球諧多項式等。

2.1 雅克比多項式#

雅克比多項式是定義在 (−1,1)(−1,1) 上，關於權函數 (1−x)α(1+x)β(1−x)α(1+x)β 正交的多項式，其中 α,β>−1α,β>−1

雅克比多項式的表達式為：


為伽馬函數（gamma function）。

雅克比多項式的遞推公式為：

雅克比多項式的正交性：

 

∫1−1(1−x)α(1+x)βP(α,β)m(x)P(α,β)n(x)dx=2α+β+12n+α+β+1Γ(α+n+1)Γ(β+n+1)n!Γ(α+β+n+1)δmn∫−11(1−x)α(1+x)βPm(α,β)(x)Pn(α,β)(x)dx=2α+β+12n+α+β+1Γ(α+n+1)Γ(β+n+1)n!Γ(α+β+n+1)δmn

 

2.2 勒讓德多項式#

勒讓德多項式是定義在區間 (−1,1)(−1,1) 上關於權函數1正交的多項式。勒讓德多項式實際上是雅克比多項式在 α=β=0α=β=0 時的特殊情況。

勒讓德多項式的表達式為：

 

Pn(x)=12nn!dndxn[(x2−1)n]Pn(x)=12nn!dndxn[(x2−1)n]

 

勒讓德多項式的遞推公式為：

 

(n+1)Pn+1(x)=(2n+1)xPn(x)−nPn−1(x)(n+1)Pn+1(x)=(2n+1)xPn(x)−nPn−1(x)

 

勒讓德多項式的正交性：

 

∫1−1Pm(x)Pn(x)dx=22n+1δmn∫−11Pm(x)Pn(x)dx=22n+1δmn

 

前6階勒讓德多項式：

 

P0(x)=1P0(x)=1

 

 

P1(x)=xP1(x)=x

 

 

P2(x)=32x2−12P2(x)=32x2−12

 

 

P3(x)=52x3−32xP3(x)=52x3−32x

 

 

P4(x)=358x4−154x2+38P4(x)=358x4−154x2+38

 

 

P5(x)=638x5−354x3+158xP5(x)=638x5−354x3+158x

 

 

P6(x)=23116x6−31516x4+10516x2−516P6(x)=23116x6−31516x4+10516x2−516

 

前6階多項式圖像：

圖3. 前6項勒讓德多項式

2.3 切比雪夫多項式#

切比雪夫多項式是定義在區間 (−1,1)(−1,1) 上關於權函數 11−x2√11−x2 正交的多項式。

2.3.1 第一類切比雪夫多項式#

第一類切比雪夫多項式的表達式為：

 

Tn(x)=cos(nθ)Tn(x)=cos⁡(nθ)

 

令 x=cos(θ)x=cos(θ)，則 Tn(x)=cos(narccos(x))Tn(x)=cos⁡(narccos⁡(x))，
第一類切比雪夫多項式的正交性為：

 

∫1−111−x2−−−−−√Tm(x)Tn(x)dx=⎧⎩⎨⎪⎪0m≠nπn=m=0π2n=m≠0∫−1111−x2Tm(x)Tn(x)dx={0m≠nπn=m=0π2n=m≠0

 

第一類切比雪夫多項式的遞推公式：

 

Tn+1(x)=2xTn(x)−Tn−1(x)Tn+1(x)=2xTn(x)−Tn−1(x)

 

第一類切比雪夫多項式的前6項：

 

T0(x)=1T0(x)=1

 

 

T1(x)=xT1(x)=x

 

 

T2(x)=2x2−1T2(x)=2x2−1

 

 

T3(x)=4x3−3xT3(x)=4x3−3x

 

 

T4(x)=8x4−8x2+1T4(x)=8x4−8x2+1

 

 

T5(x)=16x5−20x3+5xT5(x)=16x5−20x3+5x

 

 

T6(x)=32x6−48x4+18x2−1T6(x)=32x6−48x4+18x2−1

 

第一類切比雪夫多項式的圖像

2.3.2 第二類切比雪夫多項式#

第二類切比雪夫多項式的表達式為：

 

Un(x)=sin[(n+1)θ]sinθUn(x)=sin⁡[(n+1)θ]sin⁡θ

 

第二類切比雪夫多項式的正交性為：

 

∫1−11−x2−−−−−√Um(x)Un(x)dx={0m≠nπ2n=m∫−111−x2Um(x)Un(x)dx={0m≠nπ2n=m

 

第二類切比雪夫多項式的遞推公式：

 

Un+1(x)=2xUn(x)−Un−1(x)Un+1(x)=2xUn(x)−Un−1(x)

 

第二類切比雪夫多項式的前6項：

 

U0(x)=1U0(x)=1

 

 

U1(x)=2xU1(x)=2x

 

 

U2(x)=4x2−1U2(x)=4x2−1

 

 

U3(x)=8x3−4xU3(x)=8x3−4x

 

 

U4(x)=16x4−12x2+1U4(x)=16x4−12x2+1

 

 

U5(x)=32x5−32x3+6xU5(x)=32x5−32x3+6x

 

 

U6(x)=64x6−80x4+24x2−1U6(x)=64x6−80x4+24x2−1

 

第二類切比雪夫多項式的圖像：

圖4. 前6項切比雪夫多項式

2.4 拉蓋爾多項式#

拉蓋爾多項式是定義在區間 (0,+∞)(0,+∞) 上關於權函數 e−xxαe−xxα 正交的多項式，

拉蓋爾多項式的正交關系：

 

∫+∞0xαe−xL(α)m(x)L(α)n(x)dx=(n+α)!n!δmn∫0+∞xαe−xLm(α)(x)Ln(α)(x)dx=(n+α)!n!δmn

 

拉蓋爾多項式的遞推關系（α=0α=0）：

 

Ln+1(x)=(2n+1−x)Ln(x)−nLn−1(x)n+1Ln+1(x)=(2n+1−x)Ln(x)−nLn−1(x)n+1

 

前6項拉蓋爾多項式（α=0α=0）:

 

L0(x)=1L0(x)=1

 

 

L1(x)=−x+1L1(x)=−x+1

 

 

L2(x)=12x2−2x+1L2(x)=12x2−2x+1

 

 

L3(x)=−16x3+32x2−3x+1L3(x)=−16x3+32x2−3x+1

 

 

L4(x)=124x4−23x3+3x2−4x+1L4(x)=124x4−23x3+3x2−4x+1

 

 

L5(x)=−1120x5+524x4−53x3+5x2−5x+1L5(x)=−1120x5+524x4−53x3+5x2−5x+1

 

 

L6(x)=1720x6−120x5+58x4−103x3+152x2−6x+1L6(x)=1720x6−120x5+58x4−103x3+152x2−6x+1

 

前6項拉蓋爾多項式的圖像：

圖5. 前6項拉蓋爾多項式

2.5 埃爾米特多項式#

埃爾米特多項式是定義在區間 (−∞,+∞)(−∞,+∞) 上關於權函數 e−x2e−x2 正交的多項式。

埃爾米特多項式分為概率論中的埃爾米特多項式和物理中的埃爾米特多項式，這里只介紹物理學中使用的埃爾米特多項式。

埃爾米特多項式的表達式為：

 

Hn(x)=(−1)nex2dndxne−x2Hn(x)=(−1)nex2dndxne−x2

 

埃爾米特多項式的正交性：

 

∫+∞−∞Hm(x)Hn(x)e−x2dx=π−−√2nn!δmn∫−∞+∞Hm(x)Hn(x)e−x2dx=π2nn!δmn

 

埃爾米特多項式的遞推公式：

 

Hn+1(x)=2xHn(x)−2nHn−1(x)Hn+1(x)=2xHn(x)−2nHn−1(x)

 

前6項埃爾米特多項式為：

 

H0(x)=1H0(x)=1

 

 

H2(x)=2xH2(x)=2x

 

 

H3(x)=4x2−2H3(x)=4x2−2

 

 

H4(x)=16x4−48x2+12H4(x)=16x4−48x2+12

 

 

H5(x)=32x5−160x3+120xH5(x)=32x5−160x3+120x

 

 

H6(x)=64x6−480x4+720x2−120H6(x)=64x6−480x4+720x2−120

 

前6項埃爾米特多項式圖像：

圖6. 前6項埃爾米特多項式

3 正交多項式的應用#

正交多項式的應用甚廣，包括但不限於數值分析，逼近理論，積分，微分方程，復變函數，隨機矩陣理論，編碼理論等。

這里僅以一個小的例子來說明正交多項式在函數擬合中的應用。

實驗中使用的測試函數為 y=4x+3x2+cos(x)+sin(2x)+exy=4x+3x2+cos(x)+sin(2x)+ex，定義區間為 (−2,2)(−2,2) ，實驗比較了多項式展開3項時不同多項式的擬合均方誤差（MSE），歸一化均方誤差（NMSE）。

圖7. 不同多項式擬合結果

從擬合結果來看，在展開3項時，埃爾米特多項式的擬合誤差較小，其他的多項式擬合誤差相當。

測試程序如下：

Copy

% 正交多項式測試
clear
clc
% 采樣點數
N = 1000 ; 
% 正交多項式階數
M = 3 ;   
% 擬合函數區間為（-2,2）
x = linspace(-2,2,N)' ; 
% 生成被擬合的函數，包括指數函數，余弦函數，冪函數成分
y =  4*x + 3*x.^2 + cos(x) + exp(x) + sin(2*x);

% 生成冪級數組成的基矩陣
P1 = power_p(x,M) ;
% 生成勒讓德多項式組成的基矩陣
P2 = legendre_p(N,M) ;
% 生成切比雪夫多項式組成的基矩陣
P3 = chebyshev_p(N,M) ;
% 生成拉蓋爾多項式組成的基矩陣
P4 = laguerre_p(N,M) ;
% 生成誒爾米特多項式組成的基矩陣
P5 = hermite_p(N,M) ;

%% 用最小二乘擬合y
% c1對應冪級數系數
c1 = P1\y ;
% c2對應勒讓德系數
c2 = P2\y ;
% c3對應切比雪夫系數
c3 = P3\y ;
% c4對應拉蓋爾系數
c4 = P4\y ;
% c5對應埃爾米特系數
c5 = P5\y ;

%% 求MSE和NMSE
MSE_power = norm(y-P1*c1)/N 
NMSE_power = norm(y-P1*c1)/norm(y) 

MSE_legendre = norm(y-P2*c2)/N 
NMSE_legendre = norm(y-P2*c2)/norm(y) 

MSE_chebyshev = norm(y-P3*c3)/N 
NMSE_chebyshev = norm(y-P3*c3)/norm(y) 

MSE_laguerre = norm(y-P4*c4)/N 
NMSE_laguerre = norm(y-P4*c4)/norm(y) 

MSE_hermite = norm(y-P5*c5)/N 
NMSE_hermite = norm(y-P5*c5)/norm(y) 

figure(1)
plot(x,y,'r-',x,P1*c1,'b-',x,P2*c2,'k-',x,P3*c3,'y-',x,P4*c4,'g-',x,P5*c5,'m-')
legend('original','power','legendre','chebyshev','laguerre','hermite')

function [P] = power_p(x,M)

for m = 1:M
    P(:,m) = x.^(m-1) ;
end
end

function [P] = legendre_p(N,NN)
% 本函數生成N*M的勒讓德基矩陣
s = linspace(-1,1,N)' ;
P = zeros(N,NN) ;
P(:,1) = ones(N,1) ;
P(:,2) = s ;
for n = 3 : NN
    P(:,n) = ((2 * n - 3) * s .* P(:,n - 1) - (n - 2) * P(:,n - 2)) / ( n -1 ) ;
end
end

function [P] = chebyshev_p(N,M)
% 本函數生成N*M的切比雪夫基矩陣
x = linspace(-1,1,N)' ;
P = zeros(N,M) ;
P(:,1) = ones(N,1) ;
P(:,2) = x ;
for k = 3:M
    P(:,k) = 2*x.*P(:,k-1) - P(:,k-2) ;
end
end

function [P] = laguerre_p(N,M)
% 本函數生成N*M的拉蓋爾基矩陣
x  = linspace(-2,2,N)' ;
P = zeros(N,M) ;
P(:,1) = ones(N,1) ;
P(:,2) = -x + ones(N,1) ;
for m = 3:M
    P(:,m) = ((2*(m-2)+1-x).*P(:,m-1)-(m-2)*P(:,m-2))./(m-1) ;
end
end

function [P] = hermite_p(N,M) 
% 本函數生成N*M的埃爾米特基矩陣
x = linspace(-2,2,N)' ;
P = zeros(N,M) ;
P(:,1) = ones(N,1) ;
P(:,2) = 2*x ;

for m = 2:M
    P(:,m+1) = 2*x.*P(:,m) - 2*(m-1)*P(:,m-1) ;
end
end

更多精彩內容請關注訂閱號優化與算法