NVIDIA Tesla H100 H800 8卡方案参考
2023-09-02 16:01:39
工作站服务器
H100/H800 8 卡方案是大模型训练的顶级配置,本文以华硕 8 卡平台为例给出方案参考:从基板选择、供电冗余到网络互联,逐项说明搭建要点。
H100 方案还需考虑互联网络:节点内 NVLink、节点间 InfiniBand,两者共同决定集群扩展效率。
ASUS
