Skip to content

Latest commit

 

History

History
19 lines (12 loc) · 1.03 KB

File metadata and controls

19 lines (12 loc) · 1.03 KB

Getting started

本项目的容器提供一致的用户态;AMD 内核驱动、/dev/kfd/dev/dri 仍来自宿主机。请先完成 host check,再选择 LLM 或视频路径。

Choose a path

Need Path
vLLM / llama.cpp LLM inference LLM container
DiffSynth / ComfyUI video generation Video container
镜像不支持当前 GPU 或需要本项目改动 从同页的 Dockerfile / patch 部分构建

在使用任何 tag 前,检查其在 上游状态 中的可用性以及 硬件矩阵 的 GPU/VRAM/拓扑边界。

Device selection

最简单的手动透传会把所有 GPU 暴露给容器。对于多卡,先在宿主机确认 HIP 设备、render node 和拓扑,再逐个传入 /dev/dri/renderD*/dev/kfd 始终需要。不要依据容器里偶然的 GPU 编号猜测 PCIe 拓扑。

官方 ROCm 容器说明:https://rocm.docs.amd.com/projects/install-on-linux/en/latest/how-to/docker.html