来自民间的NVIDIA VGPU授权fastapi-dls 天天时讯

哔哩哔哩   2023-04-15 16:57:08

首先介绍一下

该项目来源于


(资料图片仅供参考)

https://hub.docker.com/r/collinwebdesigns/fastapi-dls

但由于需要用OpenSSL生成证书,有一定使用门槛(?),因此自封了个证书进去,也就是文中使用的docker镜像

如果有一定的技术能力,可以直接参考原文教程

这个东西是一个很新的东西,相关缺陷报告目前尚未得知,请谨慎用于生产环境

如后续有勘误与补充会在评论区中

开局第一步

你自然是得有一个docker环境,此处不再进行赘述,没有docker的可以参考别的PVE使用docker的文章

当然,你PVE中也得正常安装使用VGPU,具体安装方式可以看其他文章

此处以NVIDIA-Linux-x86_64-510.108.03-vgpu-kvm为例

你可以从NVIDIA官网、网盘或第三方网站(如:https://archive.biggerthanshit.com/NVIDIA/ )获取驱动

请注意你获取的是vgpu驱动及对应版本的grid驱动,而不是quadro以及geforce驱动

寻找ip地址

该镜像需要一个DLS_URL,该处可以填写你访问该容器的IP,比如本次例子是10.1.1.107

这个DLS_URL与DLS_PORT的作用,是告知虚拟机内的grid驱动,访问哪个IP与端口获取授权

在本例中,(10.1.1.107:443)为一台跑docker的centos机器443端口,实际使用时请结合实际情况

后续生成授权与访问该服务需要用到

创建容器

如果你是TrueNas请忽略本节,按下一节的步骤操作

执行命令

此处的DLS_URL与DLS_PORT是后续生成授权文件,告知guest如何访问授权容器,如果你要使用192.168.2.123:1234访问,则创建容器的命令应为

随着版本更新,如果需要指定最新版本,去hub看看,假如需要使用1.3.5版本则

https://hub.docker.com/repository/docker/makedie/fastapi-dls/tags?page=1&ordering=last_updated

创建容器即可

关于TrueNas的特殊情况本小节仅针对在truenas中部署授权服务容器,如果你用的不是这东西,忽略此节

并按上一节的创建容器正常操作

如果您使用的是TrueNas,需要知道一件事情,trueNas虽然写着docker,但实际上运行的是k3s(即阉割版本k8s)

此处以面板安装方式举例,由于TrueNas默认会占用443端口,因此本例会使用9443端口作为替代

本例的TrueNas的外部访问IP依旧为10.1.1.107

以下未提及的页面,使用默认配置即可

首先指定一个pod名称,也就是上图的应用名称

镜像名与标签如图所示,都可以在docker命令中看见复制过来即可

如图所示,本例因为TrueNas的443端口被占用,DLS_PORT端口被换为9443

上图的容器端口,为443无需改动,节点端口对应刚刚我们决定的9443端口

等等镜像下载,根据网络情况的不同花费的时间也不同,可以点击查看应用事件观察进行到的进度

如图所示,下载用了1分3秒,如果您的网络情况不佳可能需要更多时间

最后可以看见,TrueNas的面板已经有了个9443端口跑着的授权“容器”

于虚拟机安装VGPU驱动

首先我们得安装vgpu使用的grid驱动,此处以512.78_grid_win10_win11_server2016_server2019_server2022_64bit_international为例

注意:目前已知的成功案例的guest驱动均为5XX.XX版本,4XX.XX版本未有成功案例

直接安装即可,这里就不附带图片了,相信装个驱动……不至于吧

安装完驱动会提示需要重启,此时不急着重启,先把授权应用了再进行重启

应用授权

首先先创建一个路径为

C:\Program Files\NVIDIA Corporation\vGPU Licensing\ClientConfigToken的目录

于虚拟机内使用浏览器,访问刚刚创建的docker容器,https://10.1.1.107/client-token

注意:根据容器版本的不同,这个地址可能是https://10.1.1.107/-/client-token注意自行尝试

DLS_URL=10.1.1.107 DLS_PORT=443

此处IP对应DLS_URL如果端口指定了非443的记得加端口访问

此时会下载一个文件

将该文件保存至虚拟机内刚刚创建的目录中,如图所示

随后,重启虚拟机

验证授权

重启完成后,右下角即可看见授权已获得

观察PVE日志,也可以看见授权日志

在虚拟机中使用nvidia-smi -q查看

容器的日志也有访问记录

相关资讯
最新资讯