▶ 마이크로소프트, 엔비디아의 'GTC 2024 컨퍼런스'에서 주요 통합을 발표함(엔터프라이즈 기반 '생성-AI')
- 마이크로소프트 회장 & CEO(사티아 나델라) : 엔비디아와 협력하여 모든 곳의 사람과 조직을 위한 새로운 이점 & 생산성 향상을 지원
- 엔비디아 창업자 & CEO(젠슨 황) : 마이크로소프트와 협력하여 고객 기반 AI의 약속을 실현 및 혁신적 솔루션을 제공하는 미래를 구축함
① 마이크로소프트 애저 클라우드(AI 인프라스트럭쳐의 고도화)
- 신규 GPU 및 반도체 도입(엔비디아) : '그레이스 블랙웰 GB200' 슈퍼 반도체, '퀀텀-X800 인피니밴드 네트워킹 스위치 플랫폼'
- 마이크로소프트 애저 클라우드 도입 : 자연어처리, 컴퓨터 비전, 음성 인식 등 최첨단 '1조 매개변수 기반 모델 제공(최초의 회사 중 하나)
- 애저 가상화 머신(VM) : 엔비디아 'H100 NVL' 플랫폼 기반 'Azure NC H100 v4 VM'의 일반 출시 발표(중급 교육 및 추론 특화 설계)
※ Azure NC H100 v4 VM : 고객에게 1~2개의 'H100 94GB 서버(데이터센터) GPU(PCIe) 기반의 2가지 클래스 VM 제공(엔비디아 멀티-인스턴스 GPU 기술을 지원함 / 최대 7개 인스턴스까지 제공)
② 마이크로소프트 애저 클라우드(의료산업, 생명과학)
- 엔비디아 클라우드 플랫폼 & 제품군 : DGX 클라우드, Clara 마이크로서비스 제품군
- 마이크로소프트 애저 클라우드에 도입 : Sanofi, MIT, 하버드 대학교, Broad Institute, Flywheel, SOPHiA Genetics 등 업계에서 클라우드 컴퓨팅을 활용함
③ 엔비디아 옴니버스 클라우드 API
- 마이크로소프트 애저 클라우드 : 올해 말에 처음으로 제공될 예정
- 마이크로소프트 Power-BI : 대화형 3D 뷰어로 시설의 '3D 디지털 트윈'에 오버레이된 실시간 공장 데이터로 생산 속도로를 높일 수 있음
④ 마이크로소프트 CO-Pilot
- 엔비디아 추론 서버(TRITON 추론 서버) : 마이크로소프트 'CO-Pilot'에 도입하여 AI 추론 예측을 제공할 것
- 윈도우 11 OS PC(365 CO-Pilot) : 전용 'CO-Pilot 키'로 대규모 언어 모델 성능 및 독점 엔터프라이즈 데이터를 결합한 실시간 상황별 지능 데이터를 제공
⑤ 마이크로소프트 애저-AI(훈련 & 배포)
- 마이크로소프트 애저-AI : 엔비디아 'NIM 추론 마이크로서비스' 도입
- 애저 마켓플레이스 : 엔비디아 'AI-엔터프라이즈' 소프트웨어 플랫폼의 일부인 NIM의 20개 이상 인기 기반 모델의 최적화 추론 서비스를 제공
- 엔비디아 NIM 마이크로서비스 : Triton 추론 서버, TensorRT, TensorRT-LLM 포함한 'AI-엔터프라이즈' 추론 S/W로 구동하는 사전 구축된 실행 가능한 컨테이너를 제공