docker 运用 gpu 网络相关配置

Rainflow / 2024-10-29 / 原文

example

sudo docker run -it --runtime=nvidia --gpus all --network=host pytorch/pytorch:2.5.0-cuda12.4-cudnn9-runtime

解析

对gpu的支持

--runtime=nvidia --gpus all

网络的支持

--network=host
便于连接宿主机的代理。

参考:
https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/sample-workload.html