▶ 엔비디아, 블랙웰 서버(데이터센터) GPU 기반의 '블랙웰 DGX Super-POD 플랫폼' 공식 발표
- 차세대 'DGX Super-POD 플랫폼' 제품명 : DGX Super-POD GB200(DGX 슈퍼-POD '그레이스-블렉웰 200')
- 세부 구조 : DGX GB200(DGX 그레이스-블렉웰 200) 시스템 → GB200 슈퍼 반도체 36개 탑재[36개 서버(데이터센터) CPU(그레이스) + 72개 서버(데이터센터) GPU(블랙웰)]
- GB200 슈퍼 반도체(성능) : LLM(대규모 언어 모델)의 추론 워크로드에서 'H100(호퍼) 서버(데이터센터) GPU' 비교 대비 최대 30배 성능이 향상됨
- DGX Super-POD GB200 : 8개 이상의 'DGX GB200' 구성 + '퀀텀 인피니밴드' 연결로 수만 개의 'GB200 슈퍼 반도체'로 확장이 가능함
- NV링크(5세대) : DGX GB200 시스템(8개)에 576개의 '블랙웰' 서버(데이터센터) GPU를 연결하는 구성을 배포가 가능함
☞ 엔비디아, 신규 'DGX Super-POD' 아키텍처
- 통합 컴퓨팅 패브릭 지원 : DGX GB200 시스템 탑재
- NV링크(5세대) & DPU(블루필드-3) 탑재
- 퀀텀-X800 인피니밴드 네트워킹 지원
- 아키텍처 최대 대역폭 : 각 GPU 연결(1,800GB)
- 4세대 SHARP(Scalable Hierarchical Aggregation and Reduction Protocol) : 이전 세대 대비 4배 증가(14.4 테라플롭스)
★ 엔비디아, DGX B200 시스템 추가 신규 공개
- 기존 세대 : 전 세계 산업에 사용되는 공냉식, 서버 랙 장착형 DGX 설계
- 신규 플랫폼 시스템(DGX B200) : [서버(데이터센터) CPU : 인텔 5세대 제온(2개) / 서버(데이터센터) GPU : 블랙웰(8개 탑재)]
- 최대 GPU 메모리 : 1.4TB(64TB/s 메모리 대역폭) → 이전 세대 대비 빠른 실시간 추론 제공(1,000조 매개변수 모델 지원)
- 네트워킹 플랫폼 탑재 : ConnectX(CX)-7 NIC(2개), 블루필드-3 DPU(2개) → 초당 400기가비트 대역폭 제공
- FP4(정밀 기능 포함) : 144 페타플롭스
※ 엔비디아 엔터프라이즈 S/W 지원
- AI 엔터프라이즈 소프트웨어 포함
- 사전 훈련된 모델, 프레임워크, 개발자 도구, 신규 'NIM 마이크로서비스' 포함