GPU模组是GPU服务器的核心计算组件，通常指通过高速互联技术（如NVLink）集成的多GPU硬件单元。 作为服务器的“心脏”，其性能直接决定计算能力，主要分为消费级、专业级和数据中心级等类别，例如NVIDIA GeForce RTX系列、A100/H100以及AMD MI300X等。 英伟达H800是特供中国的一款数据中心GPU。
NVLink等多卡模组通过连接多张GPU卡提供更高带宽和扩展能力，能显著提升大规模计算任务性能。例如A800 NVLink 8卡模组总带宽可达400GB/s，需要特定的服务器主板支持且成本更高，更适合大规模的深度学习训练和高性能计算集群场景。 在光互连技术方面，壁仞科技于2025年展示了支持1024张GPU卡互联的光跃LightSphere X光互连超节点。
GPU模组需考虑散热与供电设计，其热流密度可达传统风冷设备的7-10倍。 高功耗GPU模组的散热是关键挑战，热虹吸散热技术能有效降低散热器厚度并提升散热效率。 针对不同功耗的GPU卡，存在多种供电线缆连接方式。
想要了解更多“GPU模组”的信息，请点击：GPU模组百科
