侵刪
筆記：
- 深度學習訓練用到的硬件有兩種：一種是專業AI硬件公司出的AI芯片，一種就是我們平時熟知的GPU顯卡了，前者不太適合入門學習，而后者無論從入門難度還是性價比上講，對於新手來說都是優先的選擇。
- 而GPU顯卡主流廠商大概兩家，一個Nvidia，一個AMD，前者出的卡我們一般稱之為N卡，后者稱之為A卡。目前不管是普通消費市場（比如玩游戲）還是做機器推理的，N卡都占主流，生態也更好一些，因此，如果沒有特殊原因，建議新手優先選擇N卡入手。
- Nvidia顯卡主要分3大類：1）Geforce系列，這個系列是銷量最多、大眾最為熟悉的顯卡，一般用來打游戲。但是它在深度學習上的表現也非常不錯，很多人用來做推理、訓練，單張卡的性能跟深度學習專業卡Tesla系列比起來其實差不太多，但是性價比卻高很多。2）Quadro系列，Quadro系列顯卡一般用於特定行業，比如設計、建築等，圖像處理專業顯卡，比如CAD、Maya等軟件，一般人很少用到，價格相對來講也稍微貴一些。3）Tesla系列，Tesla系列顯卡定位並行計算，一般用於數據中心，具體點，比如用於深度學習，做訓練、推理等。阿里雲、Amazon雲有非常多的GPU服務器，基本都采用Tesla系列顯卡。這個系列顯卡有個特別明顯的特征，那就是貴。Tesla系列入門級顯卡 Tesla P4，前面提到過，用來做深度學習的效果比GTX 1080還差，但是價格是后者的3倍多。
- GPU有非常多的參數，在做深度學習挑選顯卡的時候，主要看以下幾個：
GPU架構：不同款的GPU可能采用不同設計架構，比如Geforce 10系列的 GTX 1080/1080Ti采用的是Pascal架構，而Geforce 20系列的 RTX 2080/2080Ti采用的是Turing架構。不同架構的GPU，即使其他參數差不多，性能差別可能非常大。
CUDA核心數量：這是一個非常重要的參數，一般你在搜索顯卡參數時，這個參數一般寫在前面。CUDA核心數量越大越好，前面提到的消費級顯卡Geforce GTX 1080和Tesla入門級顯卡 P4的CUDA核心數量一樣，都是2560個。而Geforce RTX 2080Ti的CUDA核心數高達4352個。
顯存位寬：代表GPU芯片每個時鍾周期內能從GPU顯存中讀取的數據大小，這個值越大代表GPU芯片和顯存之間數據交換的速度越快，性能越好。Geforce GTX 1080的顯存位寬為256bit，Geforce RTX 2080Ti顯存位寬為352bit。
GPU工作頻率：這個很好理解，代表GPU每秒鍾工作次數，單位為MHz，跟CPU的頻率類似。該值越大代表性能越好。
顯存帶寬：代表GPU芯片每秒與顯存交換的數據大小，這個值等於 顯存位寬*工作頻率，單位為GB/秒，該值越大，代表GPU性能越好。Geforce GTX 1080的顯存帶寬為320GB/秒，而它的升級版Geforce RTX 2080的帶寬為448GB/秒。
顯存容量：這個東西跟內存一樣，不是越大越好，夠用就行。Geforce GTX 1080的顯存為8GB，而該系列的旗艦版Geforce GTX 1080Ti的顯存為11GB。Tesla系列顯卡由於特殊的應用場景，有些型號的卡顯存高達16G/24G不等。
功耗：GPU能耗，像Geforce這種消費級的顯卡一般功耗非常高，Geforce GTX 1080的最大功耗為175W，Tesla P4的最大功耗為75W。像那種數據中心大規模級別的GPU部署，低功耗的顯卡一年電費能省很多。
注意上面提到的顯卡名稱后面加Ti和不加Ti完全是兩款不同的卡，加Ti的性能比不加Ti的參數配置高很多。比如 Geforce GTX 1080Ti 比 Geforce GTX 1080性能更強勁。