[源碼解析] PyTorch 分布式(1) --- 數據加載之DistributedSampler
[源碼解析] PyTorch 分布式(1) --- 數據加載之DistributedSampler 目錄 [源碼解析] PyTorch 分布式(1) --- 數據加載之DistributedSampler 0x00 摘要 0x01 數據加載 ...
原文：[源碼解析] PyTorch 分布式(2) --- 數據加載之DataLoader
源碼解析 PyTorch 分布式 數據加載之DataLoader 目錄 源碼解析 PyTorch 分布式 數據加載之DataLoader x 摘要 x 前情回顧 x DataLoader . 初始化 . 關鍵函數 . 單進程加載 . . 區分生成 . . 迭代器基類 . . 單進程迭代器 . . 獲取樣本 . 多進程加載 . . 總體邏輯 . . 初始化 . . 業務重置 . . 獲取 inde ...
2021-08-18 08:12 0 265 推薦指數：
相關推薦
[源碼解析] PyTorch 分布式(2) ----- DataParallel(上)
[源碼解析] PyTorch 分布式(2) ----- DataParallel(上) 目錄 [源碼解析] PyTorch 分布式(2) ----- DataParallel(上) 0x00 摘要 0x01 綜述 1.1 ...
[源碼解析] PyTorch 分布式之 ZeroRedundancyOptimizer
[源碼解析] PyTorch 分布式之 ZeroRedundancyOptimizer 目錄 [源碼解析] PyTorch 分布式之 ZeroRedundancyOptimizer 0x00 摘要 0x01 歷史 1.1 ...
[源碼解析] PyTorch 分布式 Autograd (3) ---- 上下文相關
[源碼解析] PyTorch 分布式 Autograd (3) ---- 上下文相關 目錄 [源碼解析] PyTorch 分布式 Autograd (3) ---- 上下文相關 0x00 摘要 0x01 設計脈絡 1.1 ...
[源碼解析] PyTorch 分布式 Autograd (2) ---- RPC基礎
[源碼解析] PyTorch 分布式 Autograd (2) ---- RPC基礎 目錄 [源碼解析] PyTorch 分布式 Autograd (2) ---- RPC基礎 0x00 摘要 0x01 示例 0x02 RPC 基礎 ...
[源碼解析] PyTorch 分布式之彈性訓練(3)---代理
[源碼解析] PyTorch 分布式之彈性訓練(3)---代理 目錄 [源碼解析] PyTorch 分布式之彈性訓練(3)---代理 0x00 摘要 0x01 總體背景 1.1 功能分離 1.2 ...
[源碼解析] PyTorch 分布式之彈性訓練(1) --- 總體思路
[源碼解析] PyTorch 分布式之彈性訓練(1) --- 總體思路 目錄 [源碼解析] PyTorch 分布式之彈性訓練(1) --- 總體思路 0x00 摘要 0x01 痛點 0x02 難點 0x03 TorchElastic ...
[源碼解析] PyTorch 分布式(13) ----- DistributedDataParallel 之 反向傳播
[源碼解析] PyTorch 分布式(13) ----- DistributedDataParallel 之 反向傳播 目錄 [源碼解析] PyTorch 分布式(13) ----- DistributedDataParallel 之 反向傳播 0x00 ...