- 퀀텀 X-800 인피니밴드로 최고 성능 AI 인프라 지원
- 스펙트럼-X800 이더넷으로 모든 데이터센터에서 AI 최적화 네트워킹 구현
- 블랙웰, 새로운 스위치에 컴퓨팅 분산해 AI와 데이터 처리, 클라우드 워크로드 등 강화
2024년 3월 19일, GTC – AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 대규모 AI를 위해 설계된 새로운 네트워킹 스위치(switches)인 X800 시리즈를 발표했다.
엔비디아 퀀텀-X800 인피니밴드(NVIDIA Quantum-X800 InfiniBand)와 엔비디아 스펙트럼-X800 이더넷(Spectrum-X800 Ethernet)은 엔드투엔드 800Gb/s 처리량을 지원하는 세계 최초의 네트워킹 플랫폼이다. 이들은 컴퓨팅과 AI 워크로드를 위한 네트워킹 성능의 범위를 확장한다. 또한 새로 출시된 엔비디아 블랙웰(Blackwell) 아키텍처 기반 제품 라인업을 비롯해 모든 유형의 데이터센터에서 AI, 클라우드, 데이터 처리, HPC 애플리케이션 등을 더욱 가속화하는 소프트웨어가 탑재됐다.
엔비디아 네트워킹 담당 수석 부사장인 길라드 샤이너(Gilad Shainer)은 "엔비디아 네트워킹은 AI 슈퍼컴퓨팅 인프라 확장의 핵심이다. 엔비디아 X800 스위치는 엔드투엔드 네트워킹 플랫폼으로, 새로운 AI 인프라에 필수적인 조 단위 규모의 생성형 AI를 구현할 수 있게 해준다"고 말했다.
마이크로소프트 애저(Microsoft Azure)의 AI 인프라 담당 부사장인 나디아 샤펠(Nidhi Chappell)은 “AI는 데이터를 지식으로 전환하는 강력한 도구이다. 이러한 변화의 이면에는 네트워킹 인프라에 대한 수요가 증가하면서 데이터센터가 고성능 AI 엔진으로 진화하고 있다. 엔비디아 네트워킹 솔루션의 새로운 통합을 통해 마이크로소프트 애저는 클라우드 AI의 경계를 넓히는 인프라를 계속 구축할 것”이라고 전했다.
퀀텀 인피니밴드와 스펙트럼-X 이더넷을 가장 먼저 도입한 곳은 마이크로소프트 애저(Microsoft Azure)와 오라클 클라우드 인프라(Oracle Cloud Infrastructure), 코어위브(Coreweave) 등이 있다.
최고의 성능을 위한 차세대 표준
퀀텀-X800 플랫폼은 AI 전용 인프라를 위해 최고의 성능을 제공하는 새로운 표준을 제시한다. 여기에는 업계 최고의 엔드투엔드 처리량인 800Gb/s를 달성하는 엔비디아 퀀텀 Q3400 스위치와 엔비디아 커넥트X-8 슈퍼NIC(ConnectX-8 SuperNIC)가 포함된다. 이는 이전 세대 대비 5배 높은 대역폭 용량과 9배 향상된 14.4T플롭의 인네트워크 컴퓨팅을 제공하는 엔비디아의 확장 가능한 프로토콜인 SHARPv4를 통해 이루어진다.
스펙트럼-X800 플랫폼은 AI 클라우드, 엔터프라이즈 인프라에 최적화된 네트워킹 성능을 제공한다. 이 플랫폼은 스펙트럼 SN5600 800Gb/s 스위치와 엔비디아 블루필드-3(BlueField-3) 슈퍼NIC를 활용하고 있다. 또한 멀티-테넌트(Multi-tenant) 생성형 AI 클라우드와 대기업에 반드시 필요한 고급 기능 세트를 제공한다.
스펙트럼-X800은 네트워크 성능을 최적화해 AI 워크로드를 빠르게 처리, 분석, 실행함으로써 AI 솔루션의 개발, 배포, 출시 시간을 단축한다. 멀티 테넌트 환경을 위해 특별히 설계된 스펙트럼-X800은 각 테넌트의 AI 워크로드에 대한 성능을 독립적으로 보장한다. 이로써 최적의 일관된 성능 수준을 유지하고 고객 만족도와 서비스 품질을 향상시킨다.
엔비디아 소프트웨어 지원
엔비디아는 수조 개의 파라미터를 가진 AI 모델의 성능을 최적화하기 위해 네트워크 가속화 라이브러리의 전체 패키지, 소프트웨어 개발 키트, 관리 소프트웨어 제품군을 제공한다.
여기에는 NCCL(NVIDIA Collective Communications Library)이 포함된다. 이는 GPU 병렬 컴퓨팅 작업을 퀀텀-X800 네트워크 패브릭으로 확장해 FP8을 지원하는 SHARPv4의 강력한 인네트워크 컴퓨팅 기능을 활용한다. 이를 통해 대규모 모델 훈련과 생성형 AI의 성능을 크게 향상시킬 수 있다.
엔비디아의 풀스택 소프트웨어 접근 방식은 고급 프로그래밍 기능을 제공한다. 이를 통해 데이터센터 네트워크를 더욱 유연하고 안정적이며 빠르게 만들어 궁극적으로 전반적인 운영 효율성을 높인다. 아울러 최신 애플리케이션과 서비스의 요구 사항도 지원한다.
에코시스템 모멘텀
내년에 퀀텀-X800과 스펙트럼-X800은 에이브레스(Aivres), DDN, 델 테크놀로지스(Dell Technologies), 에비덴(Eviden), 히타치 밴타라(Hitachi Vantara), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), 레노버(Lenovo), 슈퍼마이크로(Supermicro), 바스트데이터(VAST Data) 등 전 세계 주요 인프라, 시스템 공급업체를 통해 제공될 예정이다.
