定義：試驗中每次可能結果的概率乘以其結果的總和，反映隨機變量平均取值的大小。
期望 $\neq$ 樣本均值。
數學期望是從概率分布角度得到的，是個確定的常數，也可稱為總體均值，樣本均值是來自有限個樣本，是從統計的角度得到的。
比如我們進行擲骰子，擲了六次，點數分別為2，2，2，4，4，4，這六次的觀察就是我們的樣本值，於是我們可以說樣本均值為 (2+2+2+4+4+4)/6 = 3，
但不能說期望是 3，期望應該是 (1+2+3+4+5+6)/6 = 3.5。
期望是與算術平均值通過大數定律聯系在一起，概率是頻率隨樣本趨於無窮的極限 ，即期望就是平均數隨樣本趨於無窮的極限。
如果我們擲了無數次的骰子，將其中的點數進行相加，然后除以他們擲骰子的次數得到均值，這個有無數次樣本得出的均值就趨向於期望。
$\bullet$ 樣本均值
設 $X_{1},X_{2},\cdots,X_{n}$ 為總體 $X$ 的樣本，樣本容量為 $n$，則樣本均值為
$$\bar{X} = \frac{1}{n}\sum_{i=1}^{n}X_{i}$$
用樣本均值 $\bar{X}$ 來估計總體的期望 $\mu$，$\bar{X}$ 是圍繞 $\mu$ 左右波動的，即多次采樣計算出來的統計量 $\bar{X}$ 有的落在 $\mu$ 左邊，有的落在 $\mu$ 右邊，
由於 $\bar{X}$ 落在 $\mu$ 左右兩側的情況是均勻的，即 $E(\bar{X}) = \mu$，所以 $\bar{X}$ 就是 $\mu$ 的無偏估計。
樣本均值能夠保持比較好的無偏性是因為它的計算過程本質還是一個線性過程，這個就是無偏。
$\bullet$ 數學期望
要求期望必須知道總體 $X$ 服從的分布，現在假設已知總體 $X$ 的概率分布，那如何求數學期望(總體均值)呢？
1）總體 $X$ 為離散型
$X$ 的概率分布為
$$P\left \{ X = x_{k} \right \} = p_{k},k = 1,2,3,...$$
它的數學期望為
$$E(X) = \sum x_{k}p_{k}, k=1,2,3,4...$$
如果累加的項有無窮個，則級數必須收斂，數學期望才存在。
離散型隨機變量函數的數學期望：
a. 設隨機變量 $Y$ 是 $X$ 的函數，即 $Y = g(X)$，則 $Y$ 的數學期望為
$$E(Y) = E(g(X)) = \sum g(x_{k})p_{k}, k=1,2,3,4...$$
b. 設隨機變量 $Z$ 是 $X$ 和 $Y$ 的函數，即 $Z = g(X,Y)$，則 $Z$ 的數學期望為
$$E(Z) = E(g(X,Y)) = \sum g(x_{i},y_{j})p_{ij}, i,j=1,2,3,4...$$
2）總體 $X$ 為連續型
對於連續型隨機變量，對於連續型隨機變量，是不討論點概率的，即$P\left \{ Y = y \right \} = 0$ 或 $P\left \{ X = x \right \} = 0$。
這里利用極限的方法來逼近，給定任意一個固定的整數 $\varepsilon$，則 $P\left \{ x-\varepsilon < X \leq x+\varepsilon \right \} > 0$，於是有
$$P\left \{ X = x \right \} = \lim_{\varepsilon \rightarrow 0}P\left \{ x-\varepsilon < X \leq x+\epsilon \right \}$$
同離散隨機變量類似，有
$$E(X) = \sum_{i=1}^{+\infty} x_{i}P\left \{ X = x_{i} \right \} = \lim_{\varepsilon \rightarrow 0}\sum_{i=1}^{+\infty} x_{i}P\left \{ x_{i} - \varepsilon < X \leq x_{i} + \varepsilon \right \} = \lim_{\varepsilon \rightarrow 0}\sum_{i=1}^{+\infty} x_{i}f(x_{i})(2\varepsilon)$$
求 $P\left \{ x_{i} - \varepsilon < X \leq x_{i} + \varepsilon \right \}$ 就是求面積，由於 $\varepsilon$ 無窮小，故就相當於求一個長方形的面積，可取區間內的任意一點，這里取為
$x_{i}$，則長方形高為 $f(x_{i})$，底為 2$\varepsilon$。
由積分的定義可知
$$E(X) = \int_{-\infty}^{+\infty}xf(x)dx$$
這是一個反常積分，要使期望存在，則該積分需收斂。
連續型隨機變量函數的數學期望：
a. 設隨機變量 $Y$ 是 $X$ 的函數，即 $Y = g(X)$，則 $Y$ 的數學期望為
$$E(Y) = E(g(X)) = \int_{-\infty}^{+\infty}g(x)f(x)dx$$
b. 設隨機變量 $Z$ 是 $X$ 和 $Y$ 的函數，即 $Z = g(X,Y)$，二維隨機變量 $(X,Y)$ 的概率密度是 $f(X,Y)$，則 $Z$ 的數學期望為
$$E(Z) = E(g(X,Y)) = \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}g(x,y)f(x,y)dxdy$$
數學期望是針對一個隨機變量的，它具有如下性質：
a. 若 $C$ 為常數，則 $E(C) = C$。
b. 若 $X$ 是隨機變量，$C$ 是常數，則 $E(CX) = CE(X)$。
c. 若 $X$ 和 $Y$ 是任意兩個隨機變量，則 $E(X\pm Y) = E(X)\pm E(Y)$。
d. 若 $X$ 和 $Y$ 是任意兩個不相關的隨機變量，則 $E(XY) = E(X)E(Y)$。