從線性代數的角度理解傅里葉變換


這篇最早是在知乎上寫的一個答案,在這展開總結總結吧。從線性代數的角度,試着直觀地理解傅里葉變換和相關的公式。在理解傅里葉變換前,首先回顧一個線性代數里的簡單概念:

正交基(Orthogonal Basis)

考慮如下的向量表達式:
\[\left( \begin{matrix}
   23  \\
   -11  \\
   6  \\
\end{matrix} \right)=6\cdot \left( \begin{matrix}
   0  \\
   0  \\
   1  \\
\end{matrix} \right)+\left( -11 \right)\cdot \left( \begin{matrix}
   0  \\
   1  \\
   0  \\
\end{matrix} \right)+23\cdot \left( \begin{matrix}
   1  \\
   0  \\
   0  \\
\end{matrix} \right)\]
一個簡單的向量被分解成了3個向量的線性和。特別的,在這個例子中,注意到,分解開的三個向量兩兩之間互相的內積等於零,於是這三個向量就是一組簡單的正交基。至於正交和內積為零,不妨這么理解,內積指的是一個向量(在另一個向量上)的投影乘上另一個向量的模(可以理解為向量的長度),如果內積為零,意思是互相之間沒有投影。具體到上面例子,就是想象一個三維空間中,三個坐標軸是互相垂直,每個正交基向量前的系數正是原始向量在每個向量方向上的投影。那么正交基是不是唯一的呢,並非如此,比如下面的表達式:
\[\left( \begin{matrix}
   23  \\
   -11  \\
   6  \\
\end{matrix} \right)=7\cdot \left( \begin{matrix}
   \frac{2}{7}  \\
   \frac{3}{7}  \\
   \frac{6}{7}  \\
\end{matrix} \right)+14\cdot \left( \begin{matrix}
   \frac{6}{7}  \\
   \frac{2}{7}  \\
   -\frac{3}{7}  \\
\end{matrix} \right)+21\cdot \left( \begin{matrix}
   \frac{3}{7}  \\
   -\frac{6}{7}  \\
   \frac{2}{7}  \\
\end{matrix} \right)\]
一般來說,一個向量都可以表達成如下的形式:
\[v=a_{1}v_{1}+a_{2}v_{2}+...+a_{k}v_{k}\]
其中\(v \in R^{k}, (v_{1}, v_{2}, ..., v_{k})\)是一組正交基。特別地,注意到上面兩個例子中,每組正交基中的向量,其模(可以認為是長度)的大小都是1,這樣的情況稱為標准正交基

理解了正交基之后,我們試着做下面一件事,求正交基向量對應的系數,還是以第一個表達式為例:
\[\left( \begin{matrix}
   23  \\
   -11  \\
   6  \\
\end{matrix} \right)=a\cdot \left( \begin{matrix}
   0  \\
   0  \\
   1  \\
\end{matrix} \right)+b\cdot \left( \begin{matrix}
   0  \\
   1  \\
   0  \\
\end{matrix} \right)+c\cdot \left( \begin{matrix}
   1  \\
   0  \\
   0  \\
\end{matrix} \right)\]
比如我們想求b的值是多少,回憶前面說的系數就是在基向量上的投影(也就是分量)和基向量模的比值,具體到前面的例子,因為基向量的模都是1,於是求系數就變得非常簡單,就是求內積而已:
\[b=\left\langle \left( \begin{matrix}
   23  \\
   -11  \\
   6  \\
\end{matrix} \right),\left( \begin{matrix}
   0  \\
   1  \\
   0  \\
\end{matrix} \right) \right\rangle =23\times 0+\left( -11 \right)\times 1+6\times 0=-11\]
對第二個表達式也可以做類似的事情:
\[\left\langle \left( \begin{matrix}
   23  \\
   -11  \\
   6  \\
\end{matrix} \right),\left( \begin{matrix}
   \frac{6}{7}  \\
   \frac{2}{7}  \\
   -\frac{3}{7}  \\
\end{matrix} \right) \right\rangle =23\times \frac{6}{7}+\left( -11 \right)\times \frac{2}{7}+6\times \left( -\frac{3}{7} \right)=\frac{138}{7}-\frac{22}{7}-\frac{18}{7}=14\]

總結如下:如果B是某個實線性空間中的一組正交基,那么對該空間中的任一x,有:
\[x=\sum\limits_{b\in B}{\frac{\left\langle x,b \right\rangle }{\left\langle b,b \right\rangle }b}=\sum\limits_{b\in B}{\frac{\left\langle x,b \right\rangle }{{{\left| b \right|}^{2}}}b}\]
也就是說,基向量前的系數是信號和基向量的內積比基向量和自身的內積(也就是模的平方)。特別地,如果正交基中的向量都是單位向量,也就是\(\left| b \right|=1\),那么每個正交基向量前的系數就是x和b的內積,即:
\[x=\sum\limits_{b\in B}{\left\langle x,b \right\rangle b}\]

傅立葉級數(Fourier Series)

傅里葉級數的定義到處都是,我就不贅述了。直觀上來理解,傅里葉級數將一段周期性的信號分解為用正弦函數和余弦函數構成的無窮級數,wiki上的示意圖很清晰地展示了這一點:

Fourier Series Demonstration
據說傅里葉最早提出這個東西是在他關於熱傳導的著作里,目的是解偏微分方程,他可能也沒想到后來這么個小數學工具成了許許多多學科中的重要手段。為什么是三角函數呢,因為三角函數的一個性質:二次導數就是自身乘個系數。如果拋開數學和傅里葉變換的起源,三角函數代表的是簡諧振動,而簡諧振動是宏觀物理世界里最常見的一種振動,這大概也是傅里葉變換為什么應用這么廣的原因之一。有點跑題,回到傅里葉級數,先回想前面提到過的公式:
\[v=a_{1}v_{1}+a_{2}v_{2}+...+a_{k}v_{k}\]
如果我們想象一段離散地、有限的時間信號,假設采樣點有k個,我們不妨把這段時間信號看做是一個大小為k的向量,於是這段時間信號應該也可以用如上的表達式表達出來,其中\(v(t)\)就是在第t個時間點(第t維)的值,於是有如下:
\[v(t)=a_{1}v_{1}(t)+a_{2}v_{2}(t)+...+a_{k}v_{k}(t)\]
再做點簡單修改,設想有個向量
\[f=v+\frac{1}{2}{{a}_{0}}\left( \begin{matrix} 1 \\ \vdots \\ 1 \\ \end{matrix} \right)\]
其中\(f, v \in R^{2k} \), 那么\(f(t)\)可以表達如下
\[f(t)=\frac{1}{2}a_{0}+a_{1}v_{1}(t)+a_{2}v_{2}(t)+...+a_{k}v_{k}(t)+b_{1}w_{1}(t)+b_{2}w_{2}(t)+...+b_{k}w_{k}(t)\]
有沒有覺得很眼熟?設想如果這個信號恰好是個周期為\(2\pi \),那么把\(v_{n}(t)\)換成\(\cos(nx)\),\(w_{n}(t)\)換成\(\sin(nx)\),也就是在頻域按頻率的分解近似,得到如下:
\[f(t)=\frac{1}{2}a_{0}+ \sum_{n=1}^k a_{n}\cos(nt) + \sum_{n=1}^k b_{n}\sin(nt)\]
記得我們前面提到過正交基的概念,那么三角級數構成的基是否正交基呢?答案是肯定的,一般來講,對於自然數m, n,如果\(m\ne n\)則有:
\[\int\limits_{-\pi }^{\pi }{\cos \left( mx \right)\cos \left( nx \right)}dx=0 \\
\int\limits_{-\pi }^{\pi }{\sin \left( mx \right)\sin \left( nx \right)}dx=0 \\
\int\limits_{-\pi }^{\pi }{\cos \left( mx \right)\sin \left( nx \right)}dx=0 \]
看到這里可能要問了,這個是內積嗎?答案:是,在連續實區間\(\left[ a,b \right]\)上的內積就是這么定義的:\(\left\langle f,g \right\rangle =\int\limits_{a}^{b}{f\left( x \right)g\left( x \right)dx}\)。直觀的解釋就是求內積后再除以維數,也就是說求每一維上乘積的平均值,再推廣到無限維來類比連續區間,就變成了乘積的積分。回到上面的三個公式,證明很簡單,就是利用積化和差的公式將乘積化成兩個三角函數,然后求最積分,這里就略過了,有興趣看更多可以點擊傳送門,在此附上wiki的直觀動畫解釋一幅:
trigonometric system orthogonality
將以上推廣到\(k\rightarrow \infty\),得到如下:
\[f(t)=\frac{1}{2}a_{0}+ \sum_{n=1}^{\infty} a_{n}\cos(nt) + \sum_{n=1}^{\infty} b_{n}\sin(nt)\]
這正是傅里葉級數。再次回想之前總結的,正交基向量前的系數就是信號在基向量上的投影基向量模的比值,而內積則是投影乘以基向量模的大小,那么系數就是內積除以模的平方(也就是第一部分最后的那個公式)。所以我們隨便挑出一個基\(\cos(nt) \),那么它的模是多少呢?在這里再不嚴謹地推廣一下,想象在\(\left[ -\pi ,\pi  \right)\)上的一個基向量,k個等間隔采樣的情況下,該向量的模就是每個采樣值的平方和開根號。那么系數呢,就是內積除以模的平方,也就是內積除以基向量所有維上的平方和,如下:
\[{{a}_{n}}=\frac{\left\langle f,\cos \left( nt \right) \right\rangle }{{{\left| \cos \left( nt \right) \right|}^{2}}}=\frac{\left\langle f,\cos \left( nt \right) \right\rangle }{\left\langle \cos \left( nt \right),\cos \left( nt \right) \right\rangle }=\frac{\sum{f\left( t \right)\cos \left( nt \right)}}{\sum{{{\cos }^{2}}\left( nt \right)}}\]
求和之后的比值和求平均之后的比值是一回事,所以又有如下:
\[{{a}_{n}}=\frac{\frac{1}{k}\sum{f\left( t \right)\cos \left( nt \right)}}{\frac{1}{k}\sum{{{\cos }^{2}}\left( nt \right)}}\]
事實上,上兩個式子就已經能求出離散情況的近似系數了,不過更一般地,我們可以不嚴謹地推廣一下到無限分割的情況,是不是就覺得眼熟了,又是積分(其實就是前面提到的連續函數內積):
\[{{a}_{n}}=\frac{\int\limits_{-\pi }^{\pi }{f\left( t \right)\cos \left( nt \right)dt}}{\int\limits_{-\pi }^{\pi }{{{\cos }^{2}}\left( nt \right)dt}}\]
同樣地利用積化和差公式\(\int\limits_{-\pi }^{\pi }{{{\cos }^{2}}\left( nt \right)dt}\)的值不難求出來,反正我用Mathematica求了一下,答案是\(\pi \),於是得到系數的表達式:
\[{{a}_{n}}=\frac{1}{\pi }\int\limits_{-\pi }^{\pi }{f\left( t \right)\cos \left( nt \right)dt}\]
類似的對\(\sin(nt) \)項進行推導,也能得到:
\[{{b}_{n}}=\frac{1}{\pi }\int\limits_{-\pi }^{\pi }{f\left( t \right)\sin \left( nt \right)dt}\]

推廣到傅里葉變換

從傅里葉級數到傅里葉變換其實基本上就是教科書上那一套了,首先將\(2\pi \)周期推廣到任一周期,然后到周期無窮大的推廣(正交基的推廣會比較復雜),同頻率的\(\sin \)和\(\cos \)項合並,並引入復振幅和相位便於計算,還有離散情況的推廣等等,和線性代數的關系不大,所以就不展開講了。總之萬變不離其宗,只要記住傅里葉分解之后的每個頻率上的分量其實本質上就是投影;而各項相加或積分,本質上就是線性空間上的相加,一切就變得直觀易懂了。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM