지겨운 코로나 팬데믹이 끝나고 컴퓨텍스가 본격적인 오프라인 이벤트로 돌아왔습니다. 하지만 인텔이나 AMD는 오래간만의 컴퓨텍스에서 대대적인 발표회를 갖지 않았고요. NVIDIA만 기조강연을 장식하면서 메인 이벤터의 자리에 올랐습니다. 

 

하지만 이걸 두고 인텔이나 AMD가 안 하니까 NVIDIA한테 순번이 돌아왔다고 해석해선 안 될 것입니다. 오히려 NVIDIA야말로 이번 컴퓨텍스의 개막을 알릴 자격이 있다고 해도 이상할 게 없거든요. 챗GPT의 스테이블 디퓨전을 비롯한 AI 열풍이 전 세계를 휩쓸면서, AI 연산에 필수적인 고성능 GPU를 공급하는 NVIDIA에게 시선이 쏠릴 수밖에 없습니다. 실제로 NVIDIA는 컴퓨텍스 개막 전의 실적 발표에서 장미빛 전망을 예고했으며, 덩달에 NVIDIA의 주가도 반도체 업계 1위로 올랐습니다.  

 

 

그래서인가 강연의 시작을 알리는 영상에서도 AI의 전지전능함을 강조했습니다. 

 

 

젠슨 황 CEO는 오래간만에 이런 자리에 섰다면서 반가움을 표시했습니다. 2시간을 꽉꽉 채워서 진행된 강연은 AI 기술부터 시작해서 이를 실행할 고성능 GPU, 이 시스템을 뒷받침할 인터커넥트, 그리고 각양각색의 시스템을 출하하는 여러 서버에 이르기까지 NVIDIA의 다양한 사업을 다루었습니다. 

 

이번 강연에서 인상 깊었던 건 2가지였는데요. 젠슨 황의 강연은 여러번 들었지만 이 분이 중국어를 하는 건 처음 봤습니다. 9살 까지 대만에서 살았기에 자연스럽게 나온 것인지, 농담을 위해서 넣은 것인지, 아니면 대만 쪽에 긍정적인 제스처를 보내기 위해서인지는 모르겠고요. 중간 중간에 TSMC의 공정을 사용해서 칩을 만들었음을 강조하더라고요. 이것 역시도 TSMC 쪽에 전하는 일종의 메세지가 아니었을까 생각해 봅니다. 

 

 

 

지포스 RTX 40 시리즈를 비롯한 기존 제품들도 소개하고요. 솔직히 이건 굳이 말할 필요 없잖아요? 

 

 

 

NVIDIA ACE FOR GAMERS입니다. 게임에 음성, 애니메이션, 대화 등을 넣어주는 AI 모델입니다. 

 

 

이걸로 만든 게임 컷씬도 공개했습니다. AI가 만들었다고 생각되지 않을 정도로 자연스럽더라고요.

https://www.youtube.com/watch?v=5R8xZb6J3r0&t=1s

 

 

이후로는 엔터프라이즈 쪽에 집중해서 소개했습니다. NVIDIA는 지속적으로 고성능 프로세서를 출시하고 소프트웨어 최적화와 개발 모델을 제공해, 업계 전반의 성능이 향상되고 이것이 다음 투자를 불러 일으키는 선순환이라는 큰 그림을 그리고 있습니다. 

 

 

그리고 GPU의 우수성을 강조했습니다. 960개의 CPU를 쓴 천만 달러 짜리 서버가 11GWh를 먹는데-

 

 

 

같은 돈으로 GPU를 만들면 3.2GWh만 먹고

 

 

11GWh로 맞추면 그 성능은 더욱 올라간다는 겁니다. 

 

 

일각에서 GPU 서버가 비싸다는 지적이 많은데, 공간/전력/성능을 모두 고려한 효율을 따지고 보면 오히려 GPU가 우수하다는 게 NVIDIA의 주장입니다. 이를 설명하기 위해 복잡한 수식도 나왔네요.

 

 

현 세대의 고성능 GPU인 H100은 양산을 시작해서 안정적으로 공급 중입니다. 

 

 

이게 그 시스템이고

 

 

이게 보드입니다.

 

 

GPU의 성능은 계속해서 오르고 있습니다. 호퍼의 차세대와 퀀텀의 차세대 제품에서 더 큰 성장을 이루면서, 10년 안에 백만배의 성능 향상을 이룰 것이라고 주장합니다. NVIDIA의 입장은 무어의 법칙은 죽지 않았으며, 그게 CPU가 아닌 GPU에서 이루어지고 있을 뿐이라 말하는 것 같더라고요. 

 

 

 

AI가 말을 하고 노래를 만드는 간단한 데모도 시연했습니다. 대만 야시장의 취두부라니, 야시장 방문 사진을 흘린 것도 이 강연에 맞춘 큰 그림이었나 봅니다. https://gigglehd.com/gg/14334446

 

 

 

그리고 정말 엔비디아를 좋아한다 부분은 같이 하자고 선동도 했습니다.

 

 

이번 강연에서 보여준 NVIDIA의 움직임 중 하나가, 우리와 동참하는 회사가 이렇게 많다는 걸 지속적으로 강조했다는 점입니다. 현재 AI와 그래픽스 업계를 선도하는 기업이니, 동참하라는 메세지를 분명하게 전달하기 위한 것으로 보입니다.

 

 

 

이번 발표에서 나온 유일한(?) 신제품인 GH200 그레이스 호퍼입니다. 현재 양산 중입니다. 72코어 Arm CPU, 96GB HBM3 메모리, 576GB GPU 메모리로 구성된 고성능 모듈입니다. 

 

 

GH200의 놀라운 성능입니다. x86 CPU에 H100을 조합해도 GH200의 성능을 따라올 수 없습니다. 

 

 

카덴스의 설계 최적화 툴에 AI를 조합해서 설계했습니다. 

 

 

현재 AI에서 다루는 데이터의 용량은 폭증하고 있습니다. 파라메터와 토큰의 양 모두 크게 늘었습니다. 이건 말할 필요도 없겠죠?

 

 

여기에 맞춰서 더 고성능, 대규모의 시스템이 필요합니다. 그래서 NVIDIA는 256개의 그레이스호퍼 슈퍼칩을 묶어서

 

 

DGX GH200 슈퍼컴퓨터를 만들었습니다. 하나의 GPU라고 강조하는데 이게 진짜 GPU가 1개 들어갔다는 건 아니고, NVIDIA NVLink 스위치로 묶어 하나의 GPU처럼 작동한다는 소리입니다. 성능은 1엑사플롭스, 메모리는 144TB입니다. 그리고 60mm 팬이 2112개, 옵티컬 파이버의 길이가 150마일... 말만 들어도 끔찍하네요.

 

 

구글 클라우드, 메타, 마이크로소프트를 비롯한 주요 클라우드 회사에서 GH200을 제공합니다.

 

 

그 외에 AI를 활용한 기술도 시연했습니다. 영어로 말한 목소리를 분석해서 그걸 다른 언어로 바꿔서 말해주는데, 이 기술은 전에 소개를 했던 것 같네요. 언어는 바뀌었어도 특유의 억양이나 목소리 톤은 그대로 남아 있더라고요.

 

 

그레이스 호퍼는 소프트뱅크의 데이터센터에도 탑재됩니다. 

 

 

 

 

 

그리고 MGX입니다. NVIDIA의 모듈식 서버 시스템으로서, 수요에 맞춰서 다양한 모듈을 자유롭게 추가할 수 있습니다. 그리고 공개된 규격이라 아무나 쓸 수 있습니다. 

 

 

여러 서버 회사들의 참가를 독려하기 위해서 공개 규격으로 만들고, 여기에 참가를 표시한 서버 회사들의 이름을 하나하나씩 불러주었습니다.

 

 

또 갈수록 늘어나는 광대역 요구에 맞춰서-

 

 

고성능 이더넷 스위치도 발표했습니다. 

 

 

그 칩입니다. 

 

 

대규모 언어 모델을 만들 수 있는 NVIDIA AI 파운데이션

 

 

기업의 AI 도입을 돕는 AI 엔터프라이즈

 

 

 

그리고 다시 한번 참가 기업들이 많다고 강조

 

 

 

NVIDIA 오린 기반의 아이작 AMR 자율 로봇 시스템 등, 다양한 먹거리를 발굴해내고 있음을 피력했습니다.

 

 

 

 

 

회장에 전시된 제품들이고요.

 

 

젠슨 황에게 사인을 받으려고 몰려든 사람들입니다. MSI 슈프림 그래픽카드가 눈에 띄네요. 저기에 사인을 받으면 보물이 되겠군요.

 

게임이나 게이밍 그래픽카드 발표는 없었지만, NVIDIA는 원래 컴퓨텍스에서 이쪽 제품을 잘 발표하진 않는 편입니다. 지포스 RTX 4060 시리즈도 일부러 컴퓨텍스 전에 공개한거 아닐까 싶네요.