本地部署ai大模型01:安装cuda&cudnn

cuda安装

打开nvidia控制面板-系统信息-组件,查看cuda版本

进入cuda toolkit网站,选择对应的系统和架构,进行下载。

1
2
最高版本:nvidia-smi
当前版本:nvcc --version

观察到输出即可。


cudnn安装