Nvidia Driver CUDA
更新一下跑模型的驅動安裝心得，主要是針對 Nvidia Driver 和 CUDA 的安裝步驟，特別是針對 Ubuntu 系統。
驅動程式種類
Nvidia 驅動程式有兩種：
open kernel ：開源驅動程式，適合大多數使用者。
例如：
nvidia-open-kernel-535。安裝後會在
/usr/lib/nvidia-open目錄下。這個驅動程式通常已經包含在 Ubuntu 的官方軟體庫中，可以通過
apt直接安裝。安裝指令：
sudo apt install nvidia-open-kernel-535
proprietary kernel ：專有驅動程式，提供更好的性能和功能，但需要手動安裝。
例如：
nvidia-kernel-535。安裝後會在
/usr/lib/nvidia目錄下。需要從 Nvidia 官方網站下載並安裝。
安裝指令：
sudo apt install nvidia-kernel-535
切換驅動程式
Ubuntu 20.04/22.04/24.04 如果需要切換到專有驅動程式，可以使用以下指令：
切換到開源驅動程式：
切換到專有驅動程式：
參照
全新安裝
擇一安裝，一般使用可以用開源，要跑 CUDA 的話，建議使用專有驅動程式。
open kernel
proprietary kernel
參照： Driver Installer
PyTorch CUDA 驅動程式
使用 PyTorch 2.7.1 對應的 CUDA 12.8 wheel。
不用額外安裝 CUDA Toolkit ，安裝 PyTorch 時它會 帶自己的 CUDA runtime （如果你用 pip install torch 裝的是 CUDA 版本）。
安裝指令：
參照
CUDA Toolkit 安裝
以 Ubuntu 24.04 安裝 CUDA Toolkit 12.9 為例，可以使用以下指令安裝：
CUDA Toolkit Installer Type
安裝方式有分為以下三種：
Network Installer ：透過網路下載安裝，適合網路連線穩定的情況。
例如：開發環境需要快速安裝，且網路連線良好，安裝完成後不留檔案，不佔空間。
Local Installer ：下載完整的安裝包，適合網路不穩定或需要離線安裝的情況。
例如：開發環境需要重複安裝在不同機器，又不想每次重新下載，可以將安裝檔保留在 USB 之類的省去下載時間。
Runfile Installer ：使用
.run檔案安裝，適合需要自訂安裝選項的情況。例如：需要自訂安裝路徑或選擇安裝的組件，可以使用這種方式。
安裝指令：
sudo sh cuda_<version>_linux.run
NVCC 編譯器
NVCC 是 CUDA 的編譯器，但安裝 CUDA Toolkit 後，並不會自動將路徑加到環境變數，導致 nvcc 指令無法直接使用。 解法步驟如下：
確認 nvcc 是否有被安裝（通常會在這）
sudo find / -name nvcc 2>/dev/null你應該會看到類似這樣的輸出：
/usr/local/cuda-12.9/bin/nvcc /usr/local/cuda-12.6/bin/nvcc永久加入 PATH
echo 'export PATH=/usr/local/cuda-12.9/bin:$PATH' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/cuda-12.9/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc source ~/.bashrc確認 nvcc 是否可以使用
nvcc --version會顯示像：
nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2025 NVIDIA Corporation Built on Tue_May_27_02:21:03_PDT_2025 Cuda compilation tools, release 12.9, V12.9.86 Build cuda_12.9.r12.9/compiler.36037853_0
✅ 什麼時候一定要加？
自己手動安裝 CUDA 且沒使用 runfile installer 建立 symlink
使用多版本 CUDA 切換時（例如有 /usr/local/cuda-11.8、cuda-12.9 等）
在編譯 CUDA 應用程式或使用某些需要 LD_LIBRARY_PATH 的應用時
參照
顯示卡相容性
Nvidia 驅動程式和 CUDA 的相容性取決於你的顯示卡型號。