마이크로소프트가 클라우드 서비스 플랫폼 'Azure(애저)'에서 ChatGPT와 같은 생성 AI를 가속화하고자,
신규 가상 머신(Virtual Machine)을 발표하였습니다.
★ 마이크로소프트 신규 VM, ND H100 v5 VM
1. 서버(데이터센터) CPU : 인텔 4세대 제온 스케일러블 CPU
2. 서버(데이터센터) GPU : 엔비디아 H100 텐서 코어 GPU * 8개(차세대 NV스위치 및 NV링크 4.0을 통한 상호 연결)
3. 서버(데이터센터) RAM : DDR5 DIMM 4800Mhz의 16채널
3. 네트워크 및 대역폭
① GPU 대역폭(엔비디아 퀀텀-2 CX7 인피니밴드 - 400Gb/s)
② VM 대역폭(VM당 3.2TB/s의 비차단 Fat-Tree 네트워크)
③ NV스위치 및 NV링크 4.0(이전 3.6 포함)의 각 VM 내 8개 로컬 GPU 간의 'TB/s' 이중 대역폭
▷ OpenAI 사장 겸 공동 설립자 그레그 브록만
마이크로소프트 애저와 함께 슈퍼컴퓨터를 공동 설계하는 것은 우리의 까다로운 AI 교육 요구 사항을 확장하여
ChatGPT와 같은 시스템에서 연구 및 조정 작업을 가능하게 하는 데 매우 중요했습니다.
▷ 엔비디아 하이퍼스케일 및 고성능 컴퓨팅 부문 부사장, 이안 버크
NVIDIA와 Microsoft Azure는 여러 세대의 제품을 통해 협력하여 전 세계 기업에 선도적인 AI 혁신을 제공했습니다.
NDv5 H100 가상 머신은 생성 AI 애플리케이션 및 서비스의 새로운 시대를 여는 데 도움이 될 것입니다. ”