[키워드]

▶ 생성 AI(인공지능) - AI의 iPhone 순간

- 좌측(우측) : 텍스트, 오디오, 이미지, 3D, 비디오, DNA, 프로테인, 몰리큐, 애니메이션

▶ 생성 AI의 시대(그래프)

- 좌측(연도) : 2019 ~ 2023

- 곡선 : 6,000건의 연구 논문, 120억 달러의 스타트업 펀딩

- 대표 애플리케이션 : 어도비 파이어플라이, MOVE.AI, VIZCOM, WONDER DYNAMICS

※ 이미지의 자유자재 편집, AI의 모션 시연, 자동차 모형 스케치, 공간 내 캐릭터 편집 = 생성AI 구동

▶ 3D 렌더링 파이프라인 구조(USD와 서로 연동됨)

- 컨셉 디자인

- 레이아웃

- 모델링 & 쉐이딩

- 애니메이션

- 조립

- 효과

- 시뮬레이션

- 조명

- 렌더링

▶ 엔비디아, SIGGRAPH 2023 컨퍼런스의 주요 핵심 키워드

- 엔비디아 그레이스-호퍼 GH200 서버(데이터센터) CPU(생성-AI 특화의 컴퓨팅 가속화)

- 엔비디아 AI 워크벤치(생성-AI)

- 엔비디아 옴니버스(OpenUSD)

- 엔비디아 RTX & L40S GPU(엔터프라이즈 옴니버스 & 생성-AI)

[시연 데모]

▶ 엔비디아, RTX 시연 데모(스타워즈 리플렉션 데모) 공개[에픽 게임즈 / ILMxLAB / 엔비디아] ☞ 2018년, 엔비디아 지포스 RTX 출시 컨퍼런스

▶ 엔비디아, 'Racer-RTX' 시연 데모 사진 공개! ☞ 2022년, 엔비디아 하반기 GTC 컨퍼런스(Geforce RTX 4000 Beyond)

☞ RacerX : 엔비디아 옴니버스로 구축된 인터랙티브 시뮬레이션

- 물리적 시뮬레이션

- 레이 트레이싱 구현(조명, 반사, 굴절)

- 실행 필요 H/W : 1개의 GPU로 실행.

★ 사전 렌더링 혹은 제작되지 않음.

[서버(데이터센터) 구성 예시 ☞ 데이터 센터를 주도하는 생성 AI 및 가속 컴퓨팅]

①-1. 기존 서버(데이터센터) 구성

- 구성 비용 : 1억 달러

- x86 서버(데이터센터) CPU : 8800개

- 총 소모전력 : 5 메가와트

- AI 추론 성능 : 1배

(AI 추론 워크로드: Llama II, Vector DB, SDXL)

①-2. 그레이스 호퍼 서버(데이터센터) CPU 플랫폼 구성

- 구성 비용 : 1억 달러

- 서버(데이터센터) CPU : 그레이스 호퍼 GH200(2500개)

- 총 소모전력 : 3 메가와트

- AI 추론 성능 : 12배 향상 

※ Isochronous(ISO)-Budget(등시성 총량) 대비 그레이스-호퍼 CPU가 20배 에너지 효율을 자랑함

②-1. 기존 서버(데이터센터) 구성

- 구성 비용 : 1억 달러

- x86 서버(데이터센터) CPU : 8800개

- 총 소모전력 : 5 메가와트

- AI 추론 성능 : 1배

②-2. 그레이스 호퍼 서버(데이터센터) CPU 플랫폼 구성

- 구성 비용 : 800만 달러

- 서버(데이터센터) CPU : 그레이스 호퍼 GH200(210개)

- 총 소모전력 : 0.26 메가와트

- AI 추론 성능 : 1배 

※ Isochronous(ISO)-Budget(등시성 총량) 대비 그레이스-호퍼 CPU가 12배 더 낮은 비용으로 서버 구축이 가능함.

[엔비디아 - 워크스테이션(클라이언트) GPU]

▶ 2018년, 엔비디아 세계 최초 레이 트레이싱 워크스테이션 GPU,'쿼드로 RTX' GPU 공개!

- 엔비디아 'RTX' 제품군

- 기가 레이 : 초당 10기가 레이

- 테라플롭스 + TIPS : 최대 16 테라플롭스(16 TIPS)

- 텐서 코어 : 초당 500조 연산 텐서 OPs

- NV링크 : 초당 100GB/s 대역폭

▶ 엔비디아, 에이다 러브에이스 마이크로아키텍처 기반 RTX 워크스테이션 공개!

- 최대 4개 RTX 6000 에이다 러브에이스 워크스테이션 GPU

- 윈도우 11 WSL(Windows Subsystem for Linux) 2.0에서 CUDA 및 다중 GPU 지원

- 엔비디아 AI 엔터프라이즈 소프트웨어

- 엔비디아 옴니버스 엔터프라이즈 소프트웨어

- 오늘부터 출시 가능!

- GPT3-40B, 미세 조정(8억 6천만 토큰에서 15시간)

- SDXL 생성 : 분당 40개 이미지 생성 / RTX 4090 GPU 탑재 PC보다 5배 빠름

- H/W 벤더사 : BOX, 델 테크놀로지, HP(Z), Lambda, 레노버

※ SIGGRAPH 2023 발표장에서 나온 워크스테이션은 HP(Z) 모델입니다

[엔비디아 - 서버(데이터센터) CPU]

▶ 그레이스 호퍼 슈퍼칩 서버(데이터센터) CPU(GH200)

- CPU 마이크로아키텍쳐 : ARM 홀딩스 기반 72 코어

- CPU 메모리(LPDDR5X) : 500GB

- CPU 대역폭 : 400GB/s

- GPU 마이크로아키텍처 : '호퍼' 마이크로아키텍처[4 페타플롭스(트랜스포머 엔진)]

- GPU 메모리(HBM3e) : 141GB

- GPU 대역폭 : 5TB

▶ (성능강화)그레이스 호퍼 슈퍼칩 서버(데이터센터) CPU(GH200), 듀얼 탑재 서버

- 그레이스 CPU : 144 코어

- 호퍼 GPU : 8 페타플롭스

- 메모리(HBM3e) : 282GB

- 대역폭 : 10TB/s

[엔비디아 - 서버(데이터센터) GPU]

▶ 엔비디아, HGX H100 서버(데이터센터) GPU

[엔비디아 - 서버(데이터센터) 플랫폼]

▶엔비디아, OVX 서버 공개

- 최대 8개 엔비디아 L40S GPU(에이다 러브에이스, GDDR6 48G)

- CUDA, 멀티-GPU 지원(VM웨어 vSphere 8 U1)

- 엔비디아 AI 엔터프라이즈 소프트웨어

- 엔비디아 옴니버스 엔터프라이즈 소프트웨어

- 2023년 8월 말에 출시 예정

- GPT3-40B, 미세 조정(860M 토큰에 7시간 / 1.7X A100 GPU 성능)

- SDXL 생성 : 분당 80개 이미지 생성

※ H/W 벤더사 : 아수스, 델 테크놀로지, 기가바이트, HPE, 레노버, QCT, 슈퍼마이크로)

▶ 엔비디아, DGX 그레이스 호퍼 서버(GH200) 공식 사양(컴퓨텍스 2023)

- CPU : 256개 그레이스 호퍼 슈퍼칩

- CPU : 그레이스 호퍼 슈퍼칩 서버(8개)

- NV링크 스위치(32개)

- NV링크 스위치(36개)

- NV링크 대역폭 : 230TB/S

- 1 엑사플롭스 속도(트랜스포머 엔진)

- 144TB GPU 메모리

※ 실제 연결 구성 : 150마일 길이(광섬유 케이블), 2,112개(60mm 쿨링팬), 7만 CFM(풍량), 40K 파운드(무게), 1개 GPU

▶ 엔비디아, 그레이스 호퍼 슈퍼칩 GH200(가속 컴퓨팅 및 생성 AI 시대를 위한 프로세서)

- 그레이스 서버(데이터센터) CPU ↔ 호퍼 서버(데이터센터) GPU

- 일관성 있는 고속 CPU-GPU 링크시스템

- PCI-익스프레스 5.0 : 5.0보다 7배 향상된 속도

▶ 엔비디아, 그레이스 호퍼 슈퍼칩 GH200

- 그레이스 호퍼 컴퓨팅 전용 서버 트레이

- 엔비디아 블루필드-3 & CX-7 네트워킹 반도체

- 최대 8개 서버 랙

- 최대 고속 메모리 : 4.6TB

▶ 엔비디아, DGX GH200 빌딩 블록 구성 요소

- 256개의 GPU에서 가속화된 I/O

- 3개 NV링크 스위치

- 고속의 All-To-All GPU 통신

- 엔비디아 NV링크 카트리지 포함

- 최대 16개 그레이스 호퍼 트레이 서버 랙

- 엔비디아 NV링크 스위치 시스템(256개의 GPU가 하나로 작동함!)

- 엔비디아 퀀텀-2 인피니밴드 스위치(여러 DGX SuperPOD를 연결을 위한 빠르고 대기 시간이 짧은 네트워크 구성이 가능한 스위치)

▶ 엔비디아 DGX GH200 SuperPOD 플랫폼

- 그레이스 호퍼 슈퍼칩 = 256개

- 1 엑사플롭스

- 144TB 고속 메모리

[엔비디아 - 생성 AI]

▶ 엔비디아 생성 AI ↔ 엔비디아 옴니버스 ↔ 엔비디아 생성 AI

- 예시(엔비디아 딥 서치 : 'DENZA N7 SUV 차량' 검색)

- 예시(엔비디아 옴니버스)

- 예시(엔비디아 EDIFY 360HDR : '해질녘 사막의 길' 답변 도출)

☞ 구성 요소

- Fine-Tune & Align LLM(대형언어모델)

- 아티스트 작곡 및 AI 생성

- 클라우드, 데이터 센터, 워크스테이션 및 PC

- 통합 최적화 스택

- 엔터프라이즈 등급

[엔비디아 - 파트너쉽]

▶ 엔비디아, Hugging Face와 파트너쉽을 체결

- 맞춤형 생성 AI 지원

- 엔비디아 DGX 클라우드 기반으로 구동하는 신규 포옹 얼굴 훈련 서버

※ 엔비디아 DGX 클라우드(구글 클라우드, 마이크로소프트 애저, 오라클 클라우드 인프라스트럭쳐)

[엔비디아 - 옴니버스]

▶ 엔비디아 옴니버스

- OpenUSD를 위해 기초부터 구축

- 여러 도구에 대한 설명, 시뮬레이션, 협업을 위한 OpenUSD용 플랫폼

▶ 엔비디아 옴니버스 클라우드

- 개발자를 위한 OpenUSD 네이티브 플랫폼

- 개발 및 배포 OpenUSD 애플리케이션

- 서비스로서의 플랫폼(PaaS) 및 클라우드 API

- 마이크로소프트 애저 클라우드에서 호스팅

- 구성 요소 : 옴니버스 실행런처, 단말기, 옴니버스 클라우드, 디자인 데이터, CAD(DCC)

- 내장 요소 : 서비스 API, 자원 관리, 옴니버스 원자핵, 그래픽 배포 네트워크(GDN)

- 서비스 카탈로그 : USD Composer, 복제기, ACE, USD-GDN 퍼블리셔, DRIVE-SIM, Isaac-SIM, DeepSearch, ChatUSD, Farm, Custom App, RunUSD

▶ 엔비디아 옴니버스 클라우드 API(USD 프로세스 실행 및 USD 콘텐츠 스트리밍)

- 경로 : USD 컨텐츠 → 엔비디아 옴니버스 클라우드 → 컨텐츠 결과물

▶ 엔비디아 옴니버스 & 생성-AI(ChatUSD Text-To-USD CO-Pilot)

- 경로 : ChatUSD → 엔비디아 옴니버스 클라우드 → 컨텐츠 결과물

▶ 엔비디아 옴니버스 클라우드(디지털 트윈)

① 디자인

② 성능

③ AV

④ 공장

⑤ 로보틱스

⑥ 물류창고

※ 50조 달러 산업 규모의 디지털화 경쟁

▶ 엔비디아 옴니버스

- 여러 도구에 대한 설명, 시뮬레이션 및 협업을 위한 OpenUSD 네이티브 플랫폼

- 세계 최대의 도구 생태계 연결

- 내장된 물리 및 생성 AI

- 종단 간 산업 디지털화를 위한 플랫폼

[엔비디아 - 엔터프라이즈 소프트웨어]

▶ 엔비디아, AI 워크벤치 공개!

- 엔비디아 AI 인프라 설정 및 LLM(대형 언어 모델) 모델 튜닝 및 배포 간소화

- 프로젝트의 원클릭 복제 및 마이그레이션

- 플랫폼 : PC, 워크스테이션, 엔터프라이즈, 데이터 센터, 퍼블릭 클라우드, NVIDIA DGX 클라우드

- 배포 전환 : 엔비디아 AI 엔터프라이즈로 프로덕션 배포 전환

※ 원클릭으로 프로젝트 마이그레이션(코드 및 모델 컨테이너) → 클라우드, 데이터센터, PC & 워크스테이션

▶ 엔비디아 AI 엔터프라이즈 4.0

- 종단 간, 배포 LLM 라이브러리에 대한 미세 조정

- 새로운 다중 GPU TensorRT LLM

- 4,500개의 패키지 / 10,000개의 종속성

- 멀티 클라우드, 데이터 센터, 워크스테이션

- 주요 기능 : 데이터 처리, 훈련, 추론, 배포

- S/W 개발사 : ServiceNow, Snowflake, 'Clear|ML', DOMINO, run:ai, Weights & Biases

- H/W 벤더사 : 델 테크놀로지, HPE, 레노버 시스템, 슈퍼마이크로, HP(Z)

- OS 벤더사 : 마이크로소프트, 캐노니컬 우분투 리눅스, 레드햇 리눅스, VM웨어(가상화)

- 클라우드 벤더사 : AWS, 구글 클라우드, 마이크로소프트 애저, 오라클 클라우드 인프라스트럭쳐

▶ 엔비디아, OpenUSD 소개

- 2016년., 픽사 애니메이션 스튜디오가 개발한 오픈 소스

- 여러 도구에 대한 설명, 시뮬레이션 및 협업을 위한 프레임워크 및 범용 교환

- 데이터 레이어 스택 구성 요소 : ROOT, FX, RIGGING, SHADING, GEOMETRY

▶ OpenUSD

- 네이티브 USD를 지원하는 50가지 도구

- 100개 기업, 170명의 기여자

- 영화, 건축, 건설, 제조 및 로봇 공학 전반에 걸친 채택

▶ 엔비디아, OpenUSD의 가속화

- 물리, MDL, RTX, 생성 AI 추가

- 지리 공간, 좌표, 메트릭 어셈블리 산업 워크플로우

- SimReady 사양 및 수천 개의 자산

- 하이퍼스케일, 클라우드 API, 서버 스트림-디바이스

- 2020년 ~ 2023년의 다양한 기술

① RTX, MDL, Phython 3

② Rigid Body Physics, PyPI, Revit to USD, Rhino to USD, SketchUp To USD

③ USDView In Omniverse, Intl Character UTF-8, Blender USD Import, USD App Templates, CAS To USD

④ Geospatial - WGS84, Boost Removal, DeepSearch, DLSS 3.0, Metrics Assembly, Compatibility Suite

⑤ XR, Structuring Guidelines, Fabric Hyper-Scaling, Plug-In Build System, SimReady, Omniverse Cloud, ChatUSD, RunUSD, IoT Streaming, Soft Body Physics, Connect SDK, Warp in USD

[기타 - ETC]

▶ Alliance for OpenUSD(AOUSD - OpenUSD 연합)

- 연합 참가사 : 픽사 애니메이션 스튜디오, 애플, 어도비 시스템, 오토데스크, 엔비디아

▶ 연도별 그래픽 시연의 주요 내용

① 1900년대

1963년 : MIT 대학교(스케치패드, 아이반 수터랜드)

1965년 : 벨 연구소(컴퓨터 발렛, 마이클 놀)

1968년 : Utah 대학교(다모클의 검, 아이반 수터랜드)

1968년 : 에니악 컴퓨터(미스터 컴퓨터 이미지)

1972년 : 손의 컴퓨터 이미지화(에드윈 캐드물 & 프레데릭 파케)

1972년 : Utah 대학교(Utah Teapot, 마틴 뉴웰)

1977년 : 넬슨 맥스(DNA의 함유 에티디움)

1979년 : 완벽한 낚시꾼(터너 화이티드)

1981년 : 아담 파워, 저글러(리차드 테일로, 게리 데모스)

1982년 : 스타 트렉 2 - 칸의 진노(ILM)

1982년 : 트론(디즈니 / 트리플-I)

1986년 : Luxo Jr(픽사 애니메이션 스튜디오)

1988년 : Tin Toy(픽사 애니메이션 스튜디오)

1993년 : 쥬라기 공원(ILM)

1997년 : 시계종탑(폴 데버벡)

1999년 : 크롬 볼(엔비디아)

② 2000년 ~ 2010년대

2001년 : 카멜레온(엔비디아)

2003년 : 오우거(엔비디아)

2006년 : 휴먼 헤드(엔비디아)

2007년 : 크라이시스(크라이텍)

③ 2011년 ~ 현재

2011년 : APEX 의상(엔비디아)

2012년 : APEX 파괴(엔비디아)

2014년 : Pi-고래의 생애(엔비디아)

2015년 : 아폴로 II의 달 착륙(엔비디아)

2018년 : 스타워즈 리플렉션 데모(에픽 게임즈 / ILMxLAB / 엔비디아)

2018년 : 배틀필드 V(EA DICE)

2018년 : Isaac 로봇 시뮬레이터(엔비디아)

2018년 : 와칸다 프로젝트(엔비디아)

2020년 : 화성 착륙선(미국 NASA / 엔비디아)

2021년 : DRIVE-Sim(메르세데스 벤츠 / 엔비디아)

2021년 : 밤의 구슬 RTX(엔비디아)

2022년 : 신경 반사 효과(엔비디아)

2022년 : AI 공장(BMW 그룹 / 엔비디아)

2022년 : 옴니버스 제작 재료(엔비디아)

2022년 : RacerX(Racer-RTX) / 엔비디아

2022년 : 다빈치 워크샵(엔비디아)

2023년 : 라면 가게(엔비디아)

2023년 : 꽃(엔비디아)

2023년 : AI 정글(엔비디아)

2023년 : 파이어플라이 데모 시연(어도비 시스템)