浪潮元腦R1推理服務器NF5688G8是基于浪潮信息新一代AI超融合架構平臺,面向超大規模數據中心的強勁性能、擴展人工智能服務器,至強算力密度6U空間內搭載1塊NVIDIA Hopper架構HGX-8GPU模組,系統支持4.0Tbps網絡帶寬,支持FP8原生精度下單機部署DeepSeek 671B大模型。
一、浪潮NF5688 G8服務器 產品概況
浪潮元腦R1推理服務器NF5688G8是基于浪潮信息新一代AI超融合架構平臺,面向超大規模數據中心的強勁性能、擴展人工智能服務器,至強算力密度6U空間內搭載1塊NVIDIA Hopper架構HGX-8GPU模組,系統支持4.0Tbps網絡帶寬,支持FP8原生精度下單機部署DeepSeek 671B大模型。
浪潮NF5688 G8服務器搭載2顆AMD第五代EPYC處理器(Max cTDP 500W),可達3TB系統內存,128TB NVMe高速存儲,支持高達12個PCIe Gen5 x16擴展槽位,可靈活支持OCP 3.0、CX7、多種智能網卡等,構建面向超大模型訓練、元宇宙、自然語言理解、推薦、AIGC等場景的AI算力平臺。
二、浪潮NF5688 G8服務器 產品特性
強勁性能
單機顯存容量1128G,實現DeepSeek671B模型完整部署
2顆AMD第五代 EPYC處理器
集成Transformer引擎,大幅加速GPT大模型訓練速度
良好能效
散熱性能優化,風道解耦設計提升20%系統能效比
12V和54V N+N冗余電源分離供電設計,減少電源轉換損耗
智能分層調節散熱,降低功耗與噪音
優化架構
節點內全PCle 5.0高速鏈路,CPU至GPU帶寬提升4倍
節點間高速互聯擴展,4.0Tbps無阻塞帶寬IB/ROCE組網
集群級優化架構設計,集群級優化架構設計,GPU: 計算IB:存儲IB=8:8:2
多元兼容
全模塊化設計,一機多芯,靈活配置支持本地和云端部署
加速大模型訓練和推理
支持多樣化的SuperPod解決方案,適用AIGC、AI4Science 及元宇宙等豐富場景
三、浪潮NF5688 G8服務器 規格參數