[키워드]
▷ 엔비디아 컴퓨텍스 2022 주제
- 게이밍
- 로보틱스
- 데이터센터
- AI(인공지능)

▷ 데이터센터 = AI 공장으로 탈바꿈

▷ 엔비디아 시장 규모
- AI 훈련 및 AI 추론 시뮬레이션 = 1500억 달러
- 디지털 트윈 = 1500억 달러
- 게이밍 = 1000억 달러
※ 게이밍은 클라우드에서의 게임 스트리밍 확장됨.

☞ 이 워크로드 시장을 전부 합치면 시장 규모는 5,000억 달러 규모를 자랑함.

▷ AI 공장에서 필요한 데이터센터의 재조정
- 3가지 처리 요소 : CPU, GPU, DPU
- 컴퓨팅 용량 : 빠른 인터커넥트 및 네트워크
- 지속 가능성 : 에너지 효율관리 시스템
- 24/7 운영 : AI 소프트웨어의 생산성
※ 거대한 워크로드 시스템은 엑사플롭스 단위의 컴퓨팅을 소비하기 떄문에 AI공장의 지속 가능성 보장

▷ 엔비디아 GPU = AI, HPC, 데이터 분석 워크로드 처리의 컴퓨팅 효율성이 뛰어남

☞ GPU 서버에서 실행할 경우 연간 12조 와트 이상의 전력 절감에 예상됨

※ 매년 200만 대의 자동차가 도로에서 사라지는 효과가 맞먹음

▷ 미래의 AI 공장에 전력을 공급하는 요소
- H100, H100 CNX, 그레이스 호퍼 슈퍼칩, 그레이스 CPU 슈퍼칩, 블루필드-3 DPU, HGX
- 스펙트럼-4, 퀀텀-2, NV링크 스위치 시스템
- 엔비디아 AI 엔터프라이즈

▷ 엔비디아의 혁신과 기술의 흐름
- 가속 컴퓨팅
- 인공지능
- 머신 러닝
- 엣지 컴퓨팅
- 엔비디아 옴니버스

▷ 엔비디아 인피니밴드 퀀텀 네트워크 플랫폼(AI 및 HPC 워크로드 특화 설계)
- 베어 메탈 성능과 클라우드 사용 편리성을 제공하는 클라우드 네이티브 슈퍼컴퓨터 기반 플랫폼

▷ 엔비디아 이더넷 스펙트롬 네트워킹 플랫폼
- 엔터프라이즈 클라우드 데이터센터 특화 설계

▷ 대만은 PC 생태계의 탄생지이며, 컴퓨텍스의 정신임
- 5,000억 달러 규모의 산업을 건설한 놀라운 여정을 기념하는 것.

▷ 엔비디아의 여정은 게이밍에서 시작됨
- GPU의 리더쉽(20년 이상, 풀 스택 지원, 전 세계 글로벌 도달)
- 노트북의 MAX-Q 디자인(슬림화, 고성능, 전력 효율성)
- 엔비디아는 지난 20년간 여러 세대 게이밍 GPU 아키텍쳐 발표 및 출시.
- 2018년도에 최초로 출시한 RTX 2000 시리즈 GPU를 시작으로 실시간 레이 트레이싱 및 AI 소프트웨어를 선보임.
- 게이머 및 크리에이터를 위한 디스플레이(G-SYNC, 리플렉스, 고해상도 주사율)
※ 이 기반으로 한 H/W 벤더사 파트너가 많음.

▷ PC게이밍 하드웨어 시장 규모 : 2022년 올해 670억 달러 규모 예상(향후 몇 년동안 두 자리 수 성장세 기록 전망)
- 지난 2년 동안 1억 명의 새로운 PC 게이머가 엔비디아 GPU 구매함.
- 8천만 명의 크리에이터 및 스트리머(방송인)이 1,000억 달러의 경제를 뒷받침.
- 올해에는 9억 2천만명이 게임 라이브 스트리밍 시청 예정.
※ 이 수치는 지난 3년동안 1.5배 증가된 것이며, 5억명 이상이 E-스포츠를 시청함.

▷ 엔비디아 RTX - 궁극의 게이밍 플랫폼
- 엔비디아 암페어 아키텍쳐(세계에서 가장 빠른 GPU)
- 실제와 같은 몰입형 그래픽(2세대 레이 트레이싱)
- AI 가속화의 성능(엔비디아 DLSS)
- 가장 낮은 시스템 레이턴시(엔비디아 리플렉스)
- 라이브 스트리밍용으로 적합한 인코더(엔비디아 비디오 인코더)
- 향상된 인공지능 기반 음성 및 비디오(엔비디아 브로드캐스트 애플리케이션)
- 빠른 추적을 위한 독창성(엔비디아 스튜디오 & 옴니버스 플랫폼)
- 매일 게이머 및 크리에이터를 위한 최고의 경험(게임 레디 드라이버 및 스튜디오 드라이버)

▷ 지난 컴퓨텍스 2021 이후 RTX 지원 게임 및 애플리케이션이 250개 이상으로 2배 증가됨.
- RTX ON으로 10억 시간 이상의 게임플레이 시간 기록.
- 30% 이상이 RTX GPU 사용

▷ 엔비디아 게이밍 솔루션 사용 수
- 6천만명 이상이 게이밍 및 크리에이티브 작업 사용
- 35% 더 많은 RTX 노트북이 판매
- RTX 스튜디오 노트북은 3배 성장함.
- 180개 이상 RTX 노트북 모델(MAX-Q 기술 적용)

▷ 궁극의 플랫폼 - RTX의 게이머 및 크리에이터
- 신규 랩탑
- RTX 및 리플렉스 게임
- 강력한 개발툴 및 소프트웨어
※ 벤더사 : ACER, AGON프로, 아수스, 컬러풀, 델컴퓨터, EVGA, GALAX, 게인워드, 기가바이트, HP, INNO3D, 레노버, LG전자, MSI, 

PALIT, PNY, RAZER, 삼성전자, 뷰소닉(게이밍), ZOTAC

[H/W]
▷ 엔비디아 지포스 RTX 3000 시리즈 GPU(암페어 아키텍쳐 기반) - 2년 전인 2020년에 출시 발표.
- 280억개 트랜지스터
- 40개 쉐이더 테라플롭스
- 78개 레이 트레이싱 테라플롭스
- 320개의 텐서 테라플롭스

▷ ASUS ROG SWIFT 500Hz 게이밍 모니터 출시 발표(세계에서 가장 빠른 엔비디아 G-SYNC 500hz를 지원하는 E스포츠 디스플레이)
- 24인치 기반 FHD 해상도의 E스포츠 전용 TN패널
- G-SYNC E스포츠 모드와 균형 모드 지원
- 엔비디아 리플렉스 분석기 탑재

▷ 컴퓨텍스에서 선보인 엔비디아 RTX 및 옵티머스 MAX-Q 적용 노트북
- MSI : RAIDER GE67 HX
- 아수스 : ROG FLOW X16
- 기가바이트 : 어로스 17X
- 아수스 : ZenBOOK 프로 16X
- ACER : ConceptD 5
- 레노버 : 요가 슬림 7i Pro X

[S/W]
▷ 엔비디아 AI 엔터프라이즈 소프트웨어 제품군(AI 및 데이터과학의 End To End 워크플로우를 지원하는 소프트웨어)
- 주요 소프트웨어 : 클라라 모나이, 리바, 맥신, 네모, 멀린, 드라이브, ISACC, 메트로폴리스, 홀로스캔
- 주요 구성요소 : RAPIDS, TAO 개발킷, 텐서플로우, PyTorch, 텐서RT, 트리톤 인퍼런스 서버
- 가속 인프라 : EGX, HGX, CGX / DGX / OVX, AGX, GPU, DPU, CPU
- 개발사 : ADG, BayNex,CECPort, Digital China, INGRAM, 리드텍, 테크데이터, VSTECS, 제로원

▷ RTX ON 플랫폼 지원 게임발표(레이 트레이싱 및 DLSS 지원)
- IO 인터랙티브(히트맨 3)
- EA 산하 코드마스터즈 - F1 22 레이싱 게임(2022년 7월 1일 업데이트 예정)
※ ICARUS 게임 - 다음 달에 엔비디아 리플렉스 지원 발표

▷ NVIDIA Isaac 로보틱스 플랫폼 애플리케이션의 SDG용 Isaac 리플리케이터 제작 발표
- 엔비디아 옴니버스 플랫폼 사용
- 인조 데이터 세대, AI 모델 개발 가속화(사전 트레이닝 모델), TAO 개발킷(훈련, 적응, 최적화)

▷ 엔비디아 JETSON 소프트웨어 개발킷인 JETPACK SDK(제트팩 소프트웨어 개발 도구).
- 딥 스트림 SDK : 월 1만건 이상 다운로드 및 비전 AI 애플리케이션 가속화
- 대화형 AI SDK RIVA 소프트웨어를 JETSON 플랫폼에서 사용 가능함.

[서버 및 데이터센터]
▷ 엔비디아 GTC 2022에서 공개된 차세대 서버용 GPU 아키텍쳐인 H100 GPU(호퍼 GPU 마이크로아키텍쳐) 
- A100(암페어 아키텍쳐)보다 수십내 뛰어난 성능을 자랑함.
- TSMC 4nm 제조공정으로 제조됨
- 6가지 획기적 발명포인트가 적용됨
- A100(암페어 아키텍쳐) 대비 처리량은 최대 30배
- 전 세계 인프라의 차세대 AI전용 GPU 엔진
① 800억개 트랜지스터 탑재
② 트랜스포머 엔진(6배 빠른 트랜스포머 성능)
③ 2세대 멀티 인스턴스 GPU로 더 작은 소형 컴퓨팅 단위로 개별 인스턴스를 분할(7배 뛰어난 보안 테넌트)
④ 비밀 컴퓨팅으로 엔드 투 엔드 개인정보보호 및 무결성 유지(보안 데이터 및 AI 모델 기반 사용)
⑤ 4세대 NV링크 적용으로 900GB/s 대역폭 자랑(7배 빠른 PCI-익스프레스 5.0 적용)
⑥ DPX 명령어 적용으로 유전자 염기 서열 분석 및 반복적 작업를 높임(7배 빠른 동적 프로그래밍 성능)
※ 대만 파트너 벤더사 협력 : ADVANTECH, 아수스, 애즈락, 폭스콘 FII, 기가바이트, H3C, INSPUR, INVENTEC, NETTRIX, QCT, 

슈퍼마이크로, 타이안(TYAN), WISTRON, WIWYNN, @FUSION

▷ 신규 NV링크 스위치 공개(GTC 2022에서 공개함)
- 최대 256개 GPU 또는 32대의 HGX 서버가 NV링크 속도로 통신 가능함.(스위치 및 인터커넥트 네트워크로 구성됨)
- 최대 20.5TB/s의 HBM3 메모리 대역폭
- 최대 768TB/s의 메모리 대역폭

▷ 호퍼 GPU 아키텍쳐의 성능의 엄청난 도약
[FP8 텐서 코어 탑재 기반 호퍼 트랜스포머 엔진, SHARP 인 네트워크 컴퓨팅 탑재 NV링크(스위치 포함), 퀀텀-2 인피니밴드 탑재]
- 5일에서 19시간으로(6.3배 더 빠름)
- 7일에서 20시간으로(9배 더 빠름)
- 1초 응답에서 30배 처리량

▷ 엔비디아 그레이스 슈퍼칩 공개(GTC 2022에서 공개되었고, 2~3년 전에 등장한 AI 워크로드를 위해서 개발)
- 2023년에 출시 예정
- 2개의 폼 팩터로 제공(왼쪽은 그레이스 호퍼 슈퍼칩) / (오른쪽은 그레이스 CPU 슈퍼칩)

① 그레이스 호퍼 슈퍼칩(그레이스 CPU 및 호퍼 CPU가 직접 연결된 단일 슈퍼칩 모듈)
- 15배 이상 빠른 시스템 메모리 대역폭와 GPU와의 연결 자랑
- NV링크-C2C를 통해서 900GB/s의 일관된 인터페이스 대역폭으로 통신
- 호퍼의 작업 데이터 크기를 최대 2TB까지 확장 가능.(대규모 AI 및 HPC, 클라우드 하이퍼스케일 워크로드 가속화 특화)

② 그레이스 CPU 슈퍼칩(그레이스 CPU 칩을 2개로 일관되게 연결된 슈퍼칩으로도 제공됨)
- 144 CPU 코어
- 1TB/s 메모리 대역폭(기존 서버의 2배에 달하는 에너지 효율성 자랑)
- 2배 이상 성능 및 전력소모에서도 전통적인 CPU 성능 자랑(메모리 1TB가 포함된 전체 모듈의 전력 소비는 500W)

▷ 엔비디아 NV링크의 C-To-C 시스템 아키텍쳐
- 소비자의 IP와 CPU 및 GPU, NIC, DPU, SOC까지 모두 연결
- SERDES 기술은 고속 메모리 인터페이스, NV링크, 네트워킹 스위치 설계를 통해서 전문성을 둔 기술
- 올해 초에 발표된 기술은 UCI-E 표준 개발도 지원할 예정.
- Die To Die, Chip To Chip, System To System 등올 확장되는 NV링크를 통해서 다양한 그레이스 CPU 및 호퍼 GPU 탑재 구성가능함
① 그레이스 CPU 슈퍼칩 & CX7 | 그레이스-호퍼 슈퍼칩 & CX7
② 그레이스-2X 호퍼 & CX7 2개 | 그레이스 슈퍼 칩 + 호퍼 GPU 2개 + CX7 2개
③ 그레이스 CPU 슈퍼칩 & 4개 호퍼 GPU + CX7 4개
④ 그레이스 슈퍼칩 1개 & 8개 호퍼 GPU + CX7 8개

▷ 엔비디아의 5가지 대규모 워크로드 처리 기반 '그레이스 레퍼런스 디자인 소개'
- 클라우드 게이밍 전용 CGX(그레이스 CPU 슈퍼 칩, A16, 블루필드-3)
- 디지털 트윈 및 옴니버스 전용 OVX(그레이스 CPU 슈퍼 칩, 엔비디아 GPU, 블루필드-3)
- 고성능 컴퓨팅 전용 HGX(그레이스 CPU 슈퍼 칩, 블루필드-3, OEM 정의 ID)
- AI 훈련 및, 인퍼런스 및 고성능 컴퓨팅 전용 HGX(그레이스 호퍼 슈퍼 칩, 블루필드-3, OEM 정의 ID & 4세대 NV링크)
- 엔비디아 가속 컴퓨팅 소프트웨어 스택 최적화
- 인증 시스템 제품군의 일부로 검증 가능

▷ 엔비디아, HGX 그레이스 및 HGX 그레이스 호퍼 시스템 서버 발표
① HGX 그레이스
- 제원 : 그레이스 CPU 호퍼칩
- 메모리 : 최대 1TB LPDDR5X 확장
- 메모리 대역폭 : 최대 1TB/s
- TDP(전력 소모) : 500W
- 쿨링디자인 : 공냉, 리퀴드
- 서버 밀도 : 랙당 최대 84개 노드

② HGX 그레이스 호퍼
- 제원 : 그레이스 호퍼 슈퍼칩
- 메모리 : 최대 512G LPDDR5X 확장 + 80GB HBM3 메모리 확장
- 메모리 대역폭 : 최대 3.5TB/s
- TDP(전력 소모) : 1000W
- 쿨링디자인 : 공냉, 리퀴드
- 서버 밀도 : 랙당 최대 42개 노드
※ 제조 벤더사 : 아수스, 폭스컨 FII, 기가바이트, QCT, 슈퍼마이크로, WIWYNN → 그레이스 시스템은 2023년 상반기에 출시될 예정

▷ 엔비디아 네트워킹 솔루션의 주요 3가지 요소(엔드 투 엔드 400GB 가속 네트워킹 포트폴리오 예시)
- 블루필드 DPU
- 퀀텀-2 인피니밴드 플랫폼
- 스펙트럼-4 이더넷 플랫폼

▷ 엔비디아 블루필드 DPU-3의 혁신(GTC 2022에서 공개, 데이터센터 운영체제를 실행하는 컴퓨팅 플랫폼)
- 400GB 접속용량(2배 네트워크 대역폭 및 파이프라인, 4배 호스트 대역폭)
- 프로그래밍이 가능한 컴퓨팅(4배 ARM 컴퓨팅, 5배 메모리 확장, 신규 데이터경로 가속기)
- 제로-트러스트 보안(2배 TLS 가속화, 신규 MACspc 가속화, 플랫폼 증명)
- 용량 확장(2배 저장소 IOPS, 2배 저장소 암호화, 신규 NVMe SSD/TCP 가속화)
※ DOCA : 클라우드 기반 데이터센터 기반 인프라 프레임워크로서, 인프라 관리 서비스의 개발을 단순화하고, 인증된 서드 파티의 인프라 

서비스를 호스팅하도록 설계됨.

[플랫폼]
▷ 엔비디아 옵티머스 MAX-Q 기술(세계에서 빠른 파워 및 효율적인 게이밍 노트북에 탑재된 기술)
- CPU 최적화
- 빠른 코어 스케일링(3배 더 많은 배터리 성능)
- 배터리 부스트 2.0(최대 70% 더 절약이 가능한 배터리 수명)
- 고급화된 옵티머스(향상된 성능 및 배터리 성능)

▷ 엔비디아 스튜디오의 지원 생태계
- 레이 트레이싱 : 어도비 Pt & DS, 오토데스크 아놀드, 블렌더, 옥테인렌더, 레드쉬프트, 유니티 엔진, 언리얼 엔진, V-RAY
- AI : 어도비 Lr & Ps + Sa, 사이버링크 파워디렉터, D5 렌더, DXO 포토랩 5, NOTCH 등 5개 추가 개발사 지원
- 비디오 : 어도비 Pr & Ae, 디스코드, DOUYU.COM HUYA.COM, X스플릿트 등 4개 추가 개발사 지원
- 컴퓨팅 : 어도비 Ai, 마벨러스 디자이너, 코렐드로우 그래픽 슈트, Daz3D, GPU 오디오, iCone, RedGiant, 사파이어 2022

※ 엔비디아 스튜디오 및 RTX 노트북은 레이 트레이싱 및 AI 가속화에서 장점을 제공함(M1 MAX 칩셋 탑재한 맥북 대비)

- 렌더링 부문에서 맥북 프로보다 최대 6배 빠름
- AI 처리 성능으로 새로운 워크플로우 처리 속도 대비 최대 3배 빠름.

▷ 엔비디아 리플렉스 지원 플랫폼
- 38개 지원 리플렉스 게임
- 22개 지원 리플렉스 모니터
- 45개 지원 리플렉스 마우스
※ 리플렉스 생태계 파트너 : AGON 프로, AOPEN, 에일리언웨어, 쿨러마스터, 커세어, EVGA, HP, HYPERX, 레노버, 로지텍, MSI, 

프레데터, RAZER, 아수스 ROG, ROCAT, 스틸시리즈, 뷰소닉

▷ 엔비디아 옴니버스 플랫폼(개방형)
- 어도비 서브스탠스 페인터
- 오토데스크 3DS MAX
- 블렌더
- 에픽 게임즈의 언리얼 엔진
※ 지난 한 해 동안 옴니버스 다운로드가 10개 증가함.(사용자 수는 12만 명)

▷ 엔비디아 옴니버스 클라우드 플랫폼
- 심플 쉐어 추가(다른 사용자가 볼 수 있는 옴니버스 장면 송신 가능)
- Audio2Emotion 추가(오디오 파일로 사실적인 얼굴 표정을 생성하는 AI 기반 애니메이션 기능)
- 마키니마 추가(짧은 애니메이션을 쉽게 제작할 수 있도록 업데이트)
※ 옴니버스 XR는 베타판으로 이용가능함.

▷ NVIDIA Isaac 로보틱스 플랫폼
- 핵심 요소 : 시뮬레이팅 / 디지털 트윈(OVX), 물리적 로봇 제작(AGX), AI 모델 훈련(DGX & OVX), 배포 및 운영(EGX)
- AI 모델 훈련(DGX & OVX) : AI 생성
- 시뮬레이팅 / 디지털 트윈(OVX) : 로봇 작동의 시뮬레이션
- 물리적 로봇 제작(AGX) :  실제 로봇 출시 때 도움이 되는 도구를 선보임.
- 배포 및 운영(EGX) : 몇 년 ~ 10년 수명 내외로 배포된 로봇군을 관리.

▷ 엔비디아 옴니버스의 디지털 트윈은 차세대 다음 AI를 실현 가능.
- CAD 플로어
- 로봇 CAD
- 맵핑
- 로봇 훈련
- 로봇 GYM
- 경로 추적(패스 트레이싱), AI, MDL, 물리적 등 요소도 추가.

▷ 엔비디아 NOVA ORIN(노바 오린) 레퍼런스 보드 디자인 공개(AMR용 최첨단 컴퓨팅 및 센서 특화)
- 2개 JETSON AGX 오린 구성
- 스테레오 카메라 2개, 광각 카메라 4개, 2D LIDAR(라이다) 2개, 3D LIDAR(라이다) 1개, 초음파 센서 8개 등으로 구성
- DeepMap, CuOpt 및 메트로폴리스 등 소프트웨어 애플리케이션 프레임워크로 구성됨.
- 올해 하반기 출시 예정.

[기술 동향]
▷ 엔비디아 CPU, GPU, DPU의 개발 로드맵 공개
① 실행 우수성을 확장하여 2년 주기 적용(1년은 x86 플랫폼에 초점, 1년은 ARM 플랫폼에 초점)
② 세가지 반도체, 매년 비약적 성능향상, 하나의 아키텍쳐
- CPU : 그레이스 CPU, 차기 그레이스 CPU
- GPU : 암페어, 호퍼, 차세대 아키텍쳐
- DPU : 블루필드-2, 블루필드-3, 블루필드-4

▷ 엔비디아의 H/W 및 S/W 종합솔루션
- 애플리케이션 프레임워크 : ISSAC 리플리케이터, ISAAC 시뮬레이션, ISAAC GYM, RIVA, 메트로폴리스, CUOPT, DEEPMAP, 노바 오린
- 플랫폼 : 엔비디아 AI, 엔비디아 옴니버스
- 시스템 소프트웨어 : RTX, CUDA-X, 피직스, 플릿트 커맨드, 클라우드 네이티브
- 하드웨어 : RTX, DGX, EGX, OVX, AGX

▷ 엔비디아 리플렉스(REFLEX) : 최근 시스템 레이턴시 챌린지 실시 및 측정
- 조준 연습기인 Kovaaks와 협력하여 데이터 수집
- 레이턴시 대상값은 25ms에서 85ms까지로 지정.
- 고숙련 게이머 및 상위 25%는 낮은 레이턴시에서 목표물을 2배 더 맞힘.
- 저숙련 게이머 및 하위 25%는 사격 정확도가 2.5배 높아짐.

▷ 엔비디아 젯슨(JETSON) 플랫폼
- 배달, 리테일, AMR, 농업, 서비스, 물류, 제조, 헬스케어 등 다양한 분야 사용
- 100만 명 이상 개발사, 6,000개 이상 기업, 150개 파트너사가 사용.

▷ 엔비디아 JETSON AGX ORIN 개발자 키트 플랫폼
- 100% 소프트웨어 및 폼팩터 호환성 유지
- 이전 XAVIER 세대 대비 최대 5배 성능 측정 기록
- 제원 구성 : 암페어 마이크로아키텍쳐 기반 텐서 코어 GPU 및 12개 ARM A78 CPU로 구동.(초당 최대 275테라 연산능력 제공)
- 현재 전 세계 유통업체에서 구매가능.
- 최소 399달러의 생산 모듈을 올해 7월부터 구매가능.
- 70nm X 45nm의 크기에 불과한 온전한 미니 컴퓨터
- 벤더사 : AAEON, ADLINK, ADVANTECH, AETINA, AI모바일, APPRO.PHO, AVer미디어, AXIOMTEK, 에버포커스, 네오V시스, ONYX, 

VECOW, AUVIDEA, 다이아몬드 시스템, 커넥트 테크, e-con 시스템, forecr, FRAMOS, ITANZI, LEETOP, 레오파드, QUECTEL, 

Silex 테크놀로지, 스마트카우, 스테레오랩스, 시스로직, TZTEK 등 2개 벤더사 추가 있음.

▷ NVIDIA는 GPU에서 ROS 가속화를 위한 오픈 로보틱스와 협력함 : Isaac ROS 플랫폼
- 여러 로봇 알고리즘을 사용 가능한 소프트웨어, Isaac GEMS

▷ NVIDIA Isaac 시뮬레이터 버전(2022.1) 발표
- Cortex 신규 도구로 대형 로봇 팔 및 공동작업 로봇을 쉽게 프로그래밍 가능함
- 강화 학습을 활용하여 몇 분 만에 로봇 제어 정책 훈련이 가능한 Isaac GYM이 추가됨.