Supermicro NVIDIA GB300 NVL72 เป็น ระบบ AI ระดับ Data Center จาก Supermicro เหมาะสำหรับงาน large-model training, HPC, AI factory, data-center inference รองรับการใช้งานระดับองค์กร ศูนย์ข้อมูล และงานวิจัยด้าน AI/HPC
การใช้งานที่เหมาะสม
- large-model training
- HPC
- AI factory
- data-center inference
ข้อมูลทางเทคนิค (Product Specifications)
| 부분 | รายละเอียดสเปค |
| 모델 | Supermicro NVIDIA GB300 NVL72 |
| รหัสสินค้า | SRS-GB300-NVL72 |
| ประเภทระบบ | Rack-Scale AI Supercomputer |
| ขนาดแร็ค | 48U |
| GPU | NVIDIA B300 (Blackwell Ultra) จํานวน 72 ตัว |
| CPU | NVIDIA Grace CPU จํานวน 36 ตัว |
| จํานวน CPU Core รวม | 2,592 Arm Neoverse V2 Cores |
| GPU Memory | สูงสุด 21TB HBM3e |
| Memory ต่อ GPU | 288GB HBM3e |
| 시스템 메모리 | สูงสุด 17TB LPDDR5X |
| Fast Memory รวม | 37TB |
| NVLink Bandwidth | 130TB/s |
| Storage Bays | สูงสุด 144 x E1.S PCIe Gen5 |
| Compute Nodes | 18 x 1U ARS-121GL-NB3 |
| NVLink Switches | 9 ชุด |
| Compute Fabric | NVIDIA Quantum-X800 InfiniBand หรือ Spectrum-X Ethernet |
| Network Speed | สูงสุด 800Gb/s |
| In-Band Management | สูงสุด 200Gb/s ผ่าน BlueField-3 DPU |
| Out-of-Band Management | 1GbE / 10GbE |
| Power System | 8 x 33kW Power Shelves |
| กําลังไฟรวม | 132kW |
| Cooling | Direct Liquid Cooling |
| In-Rack CDU | รองรับสูงสุด 250kW |
| ความกว้าง | 600 มม. |
| ความลึก | 1,068 มม. |
| 고도 | 2,236 มม. |
| FP4 Tensor Core Performance | 1,440 PFLOPS |
| FP8 / FP6 Tensor Core Performance | 720 PFLOPS |
| FP16 / BF16 Tensor Core Performance | 360 PFLOPS |
| TF32 Tensor Core Performance | 180 PFLOPS |
| FP32 Performance | 6 PFLOPS |
| FP64 Performance | 100 TFLOPS |
| AI Workloads | AI Training, AI Inference, AI Reasoning, HPC |
| Technical detail | ระบบ AI Supercomputer แบบ Rack-Scale ขนาด 48U |
| Technical detail | ใช้ NVIDIA B300 GPU จํานวน 72 ตัว |
| Technical detail | ใช้ NVIDIA Grace CPU จํานวน 36 ตัว |
| Technical detail | เชื่อมต่อ GPU ผ่าน NVLink ความเร็ว 130TB/s |
| Technical detail | ระบบระบายความร้อนแบบ Direct Liquid Cooling |
| Technical detail | Supermicro NVIDIA GB300 NVL72 รุ่น SRS-GB300-NVL72 เป็นระบบ AI Supercomputer ระดับ Rack-Scale ที่ออกแบบมาสําหรับงานปัญญาประดิษฐ์ขนาดใหญ่ การฝึกสอนโมเดล (AI Training) การประมวลผล AI Inference และ AI Reasoning โดยใช้สถาปัตยกรรม NVIDIA Grace Blackwell Ultra รุ่นล่าสุด ระบบทั้งหมดถูกรวมอยู่ภายในแร็คขนาด 48U เพียงแร็คเดียว ประกอบด้วย NVIDIA B300 GPU จํานวน 72 ตัว และ NVIDIA Grace CPU จํานวน 36 ตัว เชื่อมต่อกันผ่านเทคโนโลยี NVLink รุ่นที่ 5 และ NVLink Switch Fabric ทําให้ GPU ทั้งหมดสามารถทํางานร่วมกันเสมือนเป็นระบบเดียวขนาดใหญ่ได้อย่างมีประสิทธิภาพสูงสุด |
| Technical detail | ระบบรองรับหน่วยความจํา HBM3e รวมสูงสุด 21TB บนฝั่ง GPU และหน่วยความจํา LPDDR5X รวมสูงสุด 17TB บนฝั่ง CPU โดยแต่ละ GPU มีหน่วยความจํา HBM3e ขนาด 288GB ซึ่งช่วยรองรับโมเดล AI ขนาดใหญ่และงานประมวลผลที่ต้องใช้ข้อมูลจํานวนมหาศาลได้อย่างมีประสิทธิภาพ |
| Technical detail | ภายในแร็คประกอบด้วย Compute Node จํานวน 18 ชุด และ NVLink Switch จํานวน 9 ชุด ซึ่งสร้างแบนด์วิดท์การเชื่อมต่อระหว่าง GPU สูงถึง 130TB/s พร้อมรองรับระบบเครือข่ายความเร็วสูง NVIDIA Quantum-X800 InfiniBand หรือ NVIDIA Spectrum-X Ethernet ผ่าน NVIDIA ConnectX-8 SuperNIC ที่มีความเร็วสูงสุด 800Gb/s สําหรับงาน AI Cluster และ HPC ระดับองค์กรขนาดใหญ่ |
| Technical detail | Supermicro ได้ออกแบบระบบระบายความร้อนแบบ Direct Liquid Cooling (DLC) เต็มรูปแบบ พร้อมติดตั้ง Cooling Distribution Unit (CDU) ภายในแร็ค รองรับกําลังระบายความร้อนสูงสุด 250kW ช่วยเพิ่มประสิทธิภาพการใช้พลังงานและรองรับโหลดการทํางานระดับสูงได้อย่างต่อเนื่อง โดยระบบไฟฟ้าภายในแร็คมีความสามารถจ่ายพลังงานรวมสูงถึง 132kW ผ่าน Power Shelf จํานวน 8 ชุด |
| Technical detail | NVIDIA ระบุว่า GB300 NVL72 ได้รับการออกแบบมาเพื่อรองรับยุคของ AI Reasoning โดยมีประสิทธิภาพ FP4 Tensor Core สูงถึง 1,440 PFLOPS และสามารถเพิ่มประสิทธิภาพ AI Factory ได้สูงสุดถึง 50 เท่าเมื่อเทียบกับแพลตฟอร์ม NVIDIA Hopper ในบางรูปแบบงาน AI Inference และ AI Reasoning ขนาดใหญ่ |
สนใจสอบถามราคา สเปค หรือขอใบเสนอราคา ติดต่อได้ที่ LINE: @metaxr
