新手想跑深度学习模型，GPU云服务器要装哪些基础环境？

首次使用GPU云服务器进行深度学习训练时，系统通常只提供基础操作系统，显卡驱动、CUDA、cuDNN等关键组件需手动配置。以下流程适用于主流Linux发行版，确保环境稳定且兼容主流框架。

一、确认硬件与系统基础

在安装前，需明确服务器搭载的GPU型号（如Tesla T4、A10、RTX 4090等）及操作系统版本（推荐Ubuntu 20.04/22.04或Alibaba Cloud Linux）。可通过以下命令初步探查：

• lspci | grep -i nvidia：查看GPU型号
• uname -r：确认内核版本，避免驱动冲突
• cat /etc/os-release：识别系统发行版

二、安装NVIDIA GPU驱动

驱动是GPU计算的基础，必须与后续CUDA版本兼容。推荐使用系统包管理器自动安装，避免手动运行.run文件引发内核模块冲突。

1. 更新软件源：
   sudo apt update
2. 添加官方驱动仓库（Ubuntu）：
   sudo add-apt-repository ppa:graphics-drivers/ppa
3. 自动安装推荐驱动：
   sudo ubuntu-drivers autoinstall
4. 重启生效：
   sudo reboot
5. 验证安装：
   nvidia-smi（应显示GPU型号、驱动版本及显存状态）

三、安装CUDA Toolkit与cuDNN

CUDA是NVIDIA提供的并行计算平台，cuDNN是深度学习加速库。二者版本需严格匹配驱动及框架要求。

1. 访问NVIDIA官网，根据驱动版本选择兼容的CUDA Toolkit（如驱动版本≥525，可选CUDA 12.x）
2. 下载并运行安装脚本（以CUDA 11.8为例）：
   wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run
sudo sh cuda_11.8.0_520.61.05_linux.run
3. 安装时取消勾选驱动（因已单独安装），仅保留CUDA Toolkit和Samples
4. 配置环境变量（写入~/.bashrc）：
   export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
5. 下载对应版本cuDNN（需注册NVIDIA开发者账号），解压至CUDA目录：
   tar -xzvf cudnn-linux-x86_64-8.x.x.x_cudaX.Y-archive.tar.xz
sudo cp cudnn--archive/include/cudnn.h /usr/local/cuda/include
sudo cp cudnn--archive/lib/libcudnn /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn

四、验证环境与框架兼容性

完成基础环境后，需确保深度学习框架能调用GPU。以PyTorch和TensorFlow为例：

• PyTorch：通过官方命令安装匹配CUDA版本的包，如pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
• TensorFlow：2.10及以上版本需自行编译或使用社区镜像，建议选择预装环境的系统镜像以简化流程
• 验证GPU可用性（Python中执行）：
  import torch; print(torch.cuda.is_available()) 或 import tensorflow as tf; print(tf.config.list_physical_devices('GPU'))

五、常见配置陷阱与规避建议

对于首次使用者，建议优先选择提供预装驱动与深度学习环境的系统镜像，可大幅降低配置复杂度。若需完全自定义环境，则务必严格遵循版本匹配原则，避免陷入“依赖地狱”。