分布式深度學習計算框架（MindSpore, PyTorch）依賴環境——NCCL， NCCL提供多顯卡之間直接進行數據交互的功能（可以跨主機進行）。
注意：
本文環境為 Ubuntu18.04
以mindspore1.2.1-gpu計算框架為示范
NCCL的官方主頁：
https://developer.nvidia.com/nccl
NCCL的下載地址：
https://developer.nvidia.com/nccl/nccl-download
（注意：下載需要進行會員注冊，這里推薦使用微信或QQ登錄）
====================================================
由於mindspore1.2.1-gpu 官方給出的版本要求：
確認安裝NCCL 2.7.6-1版本（可選，單機多卡/多機多卡訓練需要）
確認安裝CUDA 10.1。
因此，我們需要安裝nccl版本為：
Download NCCL 2.7.6, for CUDA 10.1, July 6,2020
安裝對應版本的nccl之前請注意：
參考nccl 安裝官方手冊：
https://docs.nvidia.com/deeplearning/nccl/install-guide/index.html#debian
正確的 nccl 安裝步驟：
1. In the following commands, please replace<architecture>with your CPU architecture:x86_64,ppc64le, orsbsa, and replace<distro>with the Ubuntu version, for exampleubuntu1604,ubuntu1804, orubuntu2004.
根據剛才給出的軟硬件平台， <architecture> 為 x86_64 ， <distro> 為ubuntu1804 。
於是需執行命令：
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
2. 安裝剛才下載的 deb 文件：
sudo dpkg -i nccl-repo-ubuntu1804-2.7.6-ga-cuda10.1_1-1_amd64
3. 更新 apt
sudo apt update
4. Install thelibnccl2package with APT. Additionally, if you need to compile applications with NCCL, you can install thelibnccl-devpackage as well
安裝 libnccl2 、 libnccl-dev
從剛才的官方nccl下載頁面可以知道，對應的 libnccl2 、 libnccl-dev 版本。
即：
sudo apt install libnccl2=2.7.6-1+cuda10.1 libnccl-dev=2.7.6-1+cuda10.1
安裝結束。
配置環境變量：
這里nccl都是安裝在默認路徑下，因此不需要再格外配置路徑。
===============================================================
nccl 安裝結束后可以使用 nccl-test 來測試是否安裝成功， 具體的測試方法參看前文：
https://www.cnblogs.com/devilmaycry812839668/p/15023221.html