隨機數生成算法

1、蒙特卡洛方法

蒙特卡羅方法又稱統計模擬法、隨機抽樣技術，是一種隨機模擬方法，以概率和統計理論方法為基礎的一種計算方法，是使用隨機數（或更常見的偽隨機數）來解決很多計算問題的方法。將所求解的問題同一定的概率模型相聯系，用電子計算機實現統計模擬或抽樣，以獲得問題的近似解。為象征性地表明這一方法的概率統計特征，數學家馮·諾依曼用聞名世界的賭城——蒙特卡羅命名（就是那個馮·諾依曼）。
蒙特卡羅方法解題過程的主要步驟：
a.針對實際問題建立一個簡單且便於實現的概率統計模型，使所求的量恰好是該模型的概率分布或數字特征。
b.對模型的隨機變量建立抽樣方法，在計算機上進行模擬測試，抽取足夠多的隨機數。
c.對模擬實驗結果進行統計分析，給出所求解的“估計”。
d.必要時，改進模型以提高估計精度和減少實驗費用，提高模擬效率。

2、馮·諾依曼

馮·諾依曼（John von Neumann，1903~1957），20世紀最重要的數學家之一，在現代計算機、博弈論和核武器等諸多領域內有傑出建樹的最偉大的科學全才之一，被稱為“計算機之父”和“博弈論之父”。主要貢獻是：2進制思想與程序內存思想，當然還有蒙特卡洛方法。通過第一部分，可知，蒙特卡洛方法更多的是一種思想的體現（這點遠不同於快排等“嚴格”類算法），下面介紹最常見的一種應用——隨機數生成。

3、U(0,1)隨機數的產生

對隨機系統進行模擬，便需要產生服從某種分布的一系列隨機數。最常用、最基礎的隨機數是在（0,1）區間內均勻分布的隨機數，最常用的兩類數值計算方法是：乘同余法和混合同余法。

乘同余法：其中，被稱為種子，是模，是（0,1）區間的隨機數。

混合同余法：其中，是非負整數。

這些隨機數是具有周期性的，模擬參數的選擇不同，產生的隨機數質量也有所差異。更復雜的生成方法還有：

4、從U(0,1)到其它概率分布的隨機數

離散型隨機數的模擬

設隨機變量X的概率分布為：，分布函數有

設隨機變量U~U(0,1)的均勻分布，則，表明的概率與隨機變量u落在與之間的概率相同。

例如：離散隨機變量X有分布律

X	0	1	2
P(x)	0.3	0.3	0.4

U是(0,1)的均勻分布，則有，這樣得到的x便具有X的分布律。

連續型隨機變量的模擬

常用的有兩種方法：逆變換法和舍選法。逆變換法
定理：設隨機變量Y的分布函數為F(y)是連續函數，而U是(0,1)上均勻分布的隨機變量。另，則X和Y具有相同的分布。

證明：由定義知，X的分布函數
所以X和Y具有相同的分布。
這樣計算得，帶入均勻分布的U，即可得到服從的隨機數Y。
例如：設X~U(a,b)，則其分布函數為

則。所以生成U(0,1)的隨機數U，則便是來自U(a,b)的隨機數。

有些隨機變量的累計分布函數不存在或者難以求出，即使存在，但計算困難，於是提出了舍選法
要產生服從的隨機數，設x的值域為[a,b]，抽樣過程如下：

1.已知隨機分布且x的取值區間也為[a,b]，並要求，如圖：

2.從中隨機抽樣得，然后由的均勻分布抽樣得。
3.接受或舍棄取樣值，如果舍棄該值；返回上一步，否則接受。幾何解釋如下：

常數c的選取：c應該盡可能地小，因為抽樣效率與c成反比；一般取。這里的可以取均勻分布，這樣由第二步中兩個均勻分布便能得到其他任意分布的模擬抽樣。

5、正態隨機數的生成

除了上面的反函數法和舍選法，正態隨機數還可以根據中心極限定理和Box Muller（坐標變換法）得到。

中心極限定理：如果隨機變量序列 獨立同分布，並且具有有限的數學期望和方差，則對於一切有

也就是說，當n個獨立同分布的變量和，服從的正態分布（n足夠大時）。

設n個獨立同分布的隨機變量，它們服從U(0,1)的均勻分布，那么漸近服從正態分布。

Box Muller方法，設（X,Y）是一對相互獨立的服從正態分布的隨機變量，則有概率密度函數：

令，其中，則有分布函數：

令，則分布函數的反函數得：。

如果服從均勻分布U(0,1)，則可由模擬生成（也為均勻分布，可被代替）。令為，服從均勻分布U(0,1)。得：

X和Y均服從正態分布。用Box Muller方法來生成服從正態分布的隨機數是十分快捷方便的。