我想要重叠使用GPU的许多码头集装箱。Nvidia提供了这样一种实用工具:多进程服务( Multi ),这是文档化的。具体来说,它说:
当在程序中首次初始化CUDA时,CUDA驱动程序尝试连接到MPS控制守护进程。如果连接尝试失败,程序将继续正常运行,而不使用MPS。但是,如果连接尝试成功,MPS控制守护进程将继续确保以与连接客户端相同的用户id启动的MPS服务器在返回客户端之前处于活动状态。然后,MPS客户端继续连接到服务器。MPS客户端、MPS控制守护进程和MPS服务器之间的所有通信都是使用命名管道完成的。
默认情况下,命名管道被放置在/tmp/nvidia-mps/中,因此我使用