私有化部署 千问 Qwen 32B 建议用什么卡？
2026-05-21 14:22:45
工作站服务器
私有化部署千问 Qwen 32B 这类中等参数量模型，选卡的核心是显存：FP16 权重本身就要 60GB 以上，单卡建议 48GB 起步（如 A6000/A800 48G），或者两张 24GB 卡通过张量并行分摊。本文结合常见硬件给出几档可落地的配置建议。
