k8s中使用gpu的部署方案

宿主機需要安裝的軟件：

　　所有帶gpu的節點都需要安裝

1. gpu驅動程序
2. nvidia-docker2

容器中需要安裝的軟件：

　　cuda和cudnn可以到dockerhub上找到需要使用的版本及操作系統版本對應的鏡像，然后基於該鏡像重新構建即可，注意的是官方鏡像是不包含python的，需要自己安裝底層庫和python版本

1. cuda
2. cudnn
3. docker pull nvidia/cuda:10.0-cudnn7-devel-centos7  
4.                           cuda版本   cudnn版本       os

kube-system中需要安裝的程序：

1. nvidia-device-plugin

 

參考：https://kubernetes.io/zh/docs/tasks/manage-gpus/scheduling-gpus/