先給一個簡短的回答，如果把矩陣看作是向量的運動，對於運動而言，最重要的當然就是運動的速度和方向，那么：
1）特征值就是運動的速度
2）特征向量就是運動的方向
既然運動最重要的兩方面都被描述了，特征值、特征向量自然可以稱為運動（即矩陣）的特征。
注意：由於矩陣是數學概念，非常抽象，所以上面所謂的運動、運動的速度、運動的方向都是廣義的，在現實不同的應用中有不同的指代。
特征值和特征向量研究的是線性變換，首先確定一個線性空間，然后在該空間中選擇一組基作為參考系，由於線性變換是向量到自身空間的
映射，所以它是一個方陣。
定義：設 $A$ 是 $n$ 階方陣，若存在數 $\lambda$ 和非零向量 $\alpha$ 滿足
$$A\alpha = \lambda \alpha,\alpha \neq 0$$
則稱 $\lambda$ 是 $A$ 的一個特征值，$\alpha$ 為 $A$ 對應於特征值 $\lambda$ 的特征向量。
通俗來講：向量 $\alpha$ 在 $A$ 的作用下，保持方向不變，進行比例為 $\lambda$ 的伸縮。
從特征向量和特征值的定義式還可以看出，特征向量所在直線上的向量都是特征向量。
一個特征值對應的線性無關的特征向量，它們可以構成一個線性空間，稱為特征空間，特征空間中的任一個元素都是特征向量，同一個特征
值可能對應多個線性無關的特征向量，這些特征向量就可以構成特征空間的一組基，它們的線性組合當然還是特征空間中的元素，也就還是該
特征值對應的特征向量，這一點很容易通過定義來證明。
當一個矩陣作用於一個向量時，會有不同的效果，比如方向、長度的變化，當這個向量是這個矩陣的特征向量時，相對於原向量的長度變
化最明顯，假如在一堆向量中包含特征向量，但是不知道哪個是，這時可以用該矩陣反復作用於各個向量，多次作用之后，特征向量會明
顯區別於其它向量，特征向量對應的特征值越大，則向量長度增長越快，特征值小於 $1$，向量長度就不斷縮小。
那怎么求一個矩陣的特征值和特征向量呢？
已知
$$A\alpha = \lambda \alpha$$
所以得到方程
$$(A-\lambda E) \cdot \alpha = 0$$
其中 $\lambda$ 和 $\alpha$ 都是未知的。我們知道，一個特征值對應的特征向量不唯一，任意一個特征向量的倍乘都是特征向量，
所以對於任一個特征值 $\lambda$，方程必須有無窮解，即
$$r(A-\lambda E) < n$$
又因為矩陣 $A$ 是方陣，所以有行列式
$$|A-\lambda E| = 0$$
從中可以解出全部的特征值，然后將特征值一一代入方程，解出對應的特征向量。