筆記:
- 多核並行:GPU最早是用於圖形渲染、計算,多核並行提高渲染速度
- 計算類型簡單統一:CPU和GPU之所以大不相同,是由於其設計目標的不同,它們分別針對了兩種不同的應用場景。CPU需要很強的通用性來處理各種不同的數據類型,同時又要邏輯判斷又會引入大量的分支跳轉和中斷的處理。這些都使得CPU的內部結構異常復雜。而GPU面對的則是類型高度統一的、相互無依賴的大規模數據和不需要被打斷的純凈的計算環境。
- 部分機器學習算法,比如遺傳算法,神經網絡等,也具有這種分布式及局部獨立的特性(e.g.比如說一條神經網絡中的鏈路跟另一條鏈路之間是同時進行計算,而且相互之間沒有依賴的),這種情況下可以采用大量小核心同時運算的方式來加快運算速度。
參考:【PyTorch深度學習預習課1】GPU購買與白嫖指南
筆記:
- 白嫖GPU請空降22:33
- 看上圖可以得知各平台可以白嫖的GPU類型,顯存,磁盤,登錄條件和限制。
參考:保姆級GPU白嫖攻略
筆記:
- 為什么需要N卡?學習深度學習算法需要GPU,特別是Nvidia的顯卡,AMD的不行。因為主流的推理框架,都需要在 NVIDIA 推出的 CUDA 運算平台上進行,使用上這也是最方便的。
- 為什么用cpu進行深度學習不行?因為深度學習使用 GPU 運算很快,用 CPU 巨慢無比。如果只是進行算法的效果測試,那姑且可以用 CPU 試一試,不過很多算法就算測試,可能也需要跑上十幾分鍾。如果要進行算法的訓練,那必須用 GPU,用 CPU 跑訓練會跑到懷疑人生,幾個月不斷電都未必訓練好算法。
- 有哪幾個地方可以白嫖GPU資源?
- Colab優缺點?優點1:很多開源的算法,都直接提供了 Colab的運行腳本。 優點2:無需配置開發環境,直接運行體驗算法效果。 缺點1:需要tizi。
- Kaggle優缺點?優點1:登錄不需要tizi,驗證手機號需要。 缺點1:加載頁面速度有些慢。
- 阿里雲天池優缺點?優點1:不需要tizi。 缺點1:加載頁面速度有些慢。
- 百度 AI studio 優缺點?優點1:顯存和磁盤存儲都很大,有詳細的文檔和視頻。缺點1:只能使用 Paddle 框架。(百度自家的框架)