一、数据并行（DP ） 1、概念：相同的模型分布在不同的GPU上，在不同的GPU上使用不同的数据。每一张GPU上有相同的参数，在训练的时候每一个GPU训练不同的数据，相当于增大了训练时候的batch_size。 　　数据并行基于一个假设：所有节点都可以放下整个模型。这个假设在某些模型 ...

[源码解析] PyTorch 流水线并行实现 (2)--如何划分模型 目录 [源码解析] PyTorch 流水线并行实现 (2)--如何划分模型 0x00 摘要 0x01 问题 0x01 自动平衡 1.1 ...

前言 一直以来都是用 tensorflow 框架实现深度学习算法和实验，在网络训练时有一个重要的问题就是训练数据的读取。tensorflow 支持流水线并行读取数据，这种方式将数据的读取和网络训练并行，数据读取效率和将所有数据载入内存后进行存取相当，却又不会增加内存开销，是很值得推荐的一种方式 ...

[源码解析] 深度学习流水线并行 PipeDream(3)--- 转换模型 目录 [源码解析] 深度学习流水线并行 PipeDream(3)--- 转换模型 0x00 摘要 0x01 前言 1.1 改进 1.2 ...

[源码解析] 深度学习流水线并行Gpipe(1)---流水线基本实现 目录 [源码解析] 深度学习流水线并行Gpipe(1)---流水线基本实现 0x00 摘要 0x01 概述 1.1 什么是GPipe 1.2 ...

流水与精确异常 我们为什么需要精确异常？ 冯诺依曼结构ISA的语义 帮助软件调试 使得异常恢复和进程重启更容易 可以在软件中加入trap 多周期与流水线 因为并不是所有指令的执行时间都是一样长的，能不能在流水线中实现多周期的思想，即用多个不同的功能单元花费不同数量 ...

[源码解析] PyTorch 流水线并行实现 (4)--前向计算 目录 [源码解析] PyTorch 流水线并行实现 (4)--前向计算 0x00 摘要 0x01 论文 1.1 引论 ...

[源码解析] PyTorch 流水线并行实现 (5)--计算依赖 目录 [源码解析] PyTorch 流水线并行实现 (5)--计算依赖 0x00 摘要 0x01 前文回顾 0x02 计算依赖 0x03 反向传播依赖 ...