바로 시작하겠습니다!

인텔, 캘리포니아 산타클라라 본사 건물!

(이번 2023 투자자 웨비나 컨퍼런스 주제 : 데이터센터 사업의 업데이트)

인텔 존 피쳐(투자자 관계 부문 수석 부사장) 등장!

인텔, 2023 투자자 웨비나 컨퍼런스[데이터 센터와 AI(인공지능)] 출연자
- 산드라 리베라(데이터센터 & AI 그룹 총괄 부사장 겸 매니저)
- 그렉 라벤더(최고기술 책임자 겸 '소프트웨어 & 고급 기술' 그룹 총괄 매니저)
- 리사 스펠만[제온 서버(데이터센터) 총괄 매니저 겸 수석 부사장]

인텔, 2023 투자자 웨비나 컨퍼런스[데이터 센터와 AI(인공지능)] 출연자 별 주제

- 산드라 리베라 : 데이터센터 TAM(전체 시장 도메인 크기)의 주요 업데이트

- 그렉 라벤더 & 리사 스펠만 : 로드맵 업데이트

- 산드라 리베라 & 그렉 라벤더 : AI에서의 승리

인텔, 산드라 리베라(데이터센터 & AI 그룹 총괄 부사장 겸 매니저) 등장!

인텔 DCAI 실리콘 TAM(전체 시장 도메인 크기)의 기회

- 이기종 컴퓨팅의 성장

- AI, 네트워킹, 보안 및 기타 전략적 워크로드의 성장

- 그래프

① 연도 : 2022 ~ 2027

② 항목 : 서버(데이터센터) CPU & 칩셋, GPU, FPGA, ASIC

③ 매출 : 2022년(400억 달러) ~ 2027년(1100억 달러)

크게 성장하는 TAM 시장
- 인텔 제온 : 인스트림 컴퓨팅의 기반입니다.
- 제품군 출시 로드맵의 실행
- 고성장 워크로드 경쟁 및 승리

실리콘 매출(이익)은 CPU 코어 추세의 동향
- 강력한 성장 궤적을 가진 컴퓨팅 수요
- 이전 세대보다 빠른 속도로 증가하는 제온 코어 성장
- CPU 코어, 내장 가속 및 이기종 컴퓨팅을 통해 고객 가치 제공

- 그래프(x86 기반 메인스트림 컴퓨팅)
★ 연도 : 2018 ~ 2027
★ 항목 : CPU 코어 배포(출시), 실리콘 매출(이익)
☞ 20년대 중반에 성장하는 주류 컴퓨팅 코어 CAGR(연 평균 성장률)

인텔 제온 서버(데이터센터) CPU : CPU 코어의 리더쉽

- 더 높은 성능
- 총 소유 비용 절감
※ 모든 코어가 동일하게 생성되는 것은 아님.

인텔의 가장 광범위한 제품군 포트폴리오 제공(클라우드에서 네트워크를 통해 지능형 엣지 장치에 이르기까지 혁신 주도)

- 서버(데이터센터) CPU : 제온(MAX, E, 오리지널, D), 아톰
- 서버(데이터센터) GPU : '데이터센터 GPU'(맥스 시리즈, 플렉스 시리즈)
- 가속기 : 하바나, 모비디우스, AGILEX, STRATIX, eASIC
- 연결성 : IPU(인프라 처리 장치), 이더넷, Si-Photonics
※ 인텔 '1(One)' API : 여러 아키텍처에 걸친 단일 코드 기반

진화하는 데이터 센터 인프라 요구 사항
- $TCO를 유발하는 다양한 요구 사항(코어 성능, 와트 성능, V/M 성능, SOCKET 성능)
- 고성능 코어 성능에 대한 지속적인 요구
- 와트당 최고의 성능을 제공하는 코어에 대한 수요 증가

※ 그래프
① 항목 : CPU 당 성능비, 성능 밀도(와트 당 성능, 면적 당 성능)
② 내용(워크로드 및 용도)
- 컴퓨팅 최적화 워크로드(코어 최적화 성능)
- 범용 워크로드
- 고밀도 컴퓨팅, 데이터 이동 워크로드(코어 밀도 최적화)

메인스트림 컴퓨팅에 최적화된 CPU

① P(성능) 코어(성능 최적화)
- 고성능 코어 성능
- 내장된 가속기로 워크로드에 최적화된 성능

☞ 그래프
- 항목 : CPU 당 성능비, 성능 당 성능(와트 당 성능, 신장 당 성능)
- '코어당 성능 최적화'

② E(효율) 코어(효율 최적화)
- 최적화된 와트당 성능
- 높은 코어 밀도
- 높은 처리량 성능

☞ 그래프
- 항목 : CPU 당 성능비, 성능 당 성능(와트 당 성능, 신장 당 성능)
- '코어 밀도 최적화'

인텔 4세대 제온 스케일러블 서버(데이터센터) CPU(강력한 고객 채택으로 출시)

- 450개 이상의 디자인 수상(모든 제온 제품군 중 가장 많은 것) 200개 이상의 디자인
- 200개 이상의 디자인이 오늘 배송됩니다(대부분 엠바고 해제 시 / 배송 예정일).
- 공급(오늘 고객 수요 충족 및 2023년 내내 건강한 공급망)
- 50개 이상의 모든 주요 OXM 배송(오리지널 장비 제조업체 + 독창적 디자인 제조업체)
- 상위 10개(현재 및 2023년 내내 글로벌 CSP 배포) ☞ 클라우드 서비스 ISP

인텔, 리사 스펠만[제온 서버(데이터센터) 총괄 매니저 겸 수석 부사장] 등장!

인텔 4세대 제온 스케일러블 서버(데이터센터) CPU AI 이미징 및 언어 워크로드 데모 시연
(인텔 'Advanced Matrix Extensions' 활성화)
- 경쟁사 : AMD
- 경쟁사 서버(데이터센터) CPU : 4세대 EPYC(에픽)
- 공통 CPU 코어 : 48코어
→ 최대 3.98배(4배) 차이 성능을 자랑함.

※ 성능 측정 항목[AMD 에픽 vs 인텔 제온, 단위 : Image/s & Sentences/s(BERT-Large)]
- SSD-RN34(44.96 vs 210.337)
- Resnet 50(2521.89 vs 6209)
- BERT-Large(15.84 vs 86.33)

산드라 리베라 부사장이 '인텔 5세대 제온 스케일러블 서버(데이터센터) CPU(코드명 : 에메랄드 라피드)' 실물을 선보였습니다!

'인텔 5세대 제온 스케일러블 서버(데이터센터) CPU(코드명 : 에메랄드 라피드)'
※ 오늘 CPU 샘플링, 2023년 4분기에 출시 예정

- 고품질 실리콘 반도체(볼륨 검증 중)
- 동일한 전력 범위에서 와트당 더 높은 성능(세대 간 코어 밀도 증가)
- '4세대 제온 서버(데이터센터) CPU(사파이어 라피드)'와 동일한 플랫폼(이전 세대에서 쉬운 마이그레이션 경로)

인텔 제온 CPU(코드명 : 그래넷 라피드) - 시에라 포레스트에 이어 2024년 인도 예정
- 우수한 실리콘 반도체(모든 주요 엔지니어링 이정표 달성)
- 성능 최적화(Intel 3 기반 최초의 성능 코어 Xeon)
- 플랫폼 개선(코어 밀도 증가, 메모리 및 I/O 혁신)

※ 인텔, 'MCR(Multiplexer Combined Rank)'이라는 신규 메모리 DIMM 규격을 개발함
- 메모리 규격 : DDR5
- DDR5 최대 지원속도 : 8800MT/s
- 피크 대역폭 : 83%
- 전송속도 : 1초당 1.5테라바이트

인텔의 주요 벤더 고객사 사례
- 델 테크놀로지
- HP 엔터프라이즈
- 레노버

인텔 제온 CPU(코드명 : 시에라 포레스트) - 제온 CPU 라인업 역사상 처음으로 'E(효율)-코어' 탑재
※ 오늘 샘플링, 2024년 상반기 출시 예정

- 우수한 실리콘 반도체(실리콘 전원 기동, OS 부팅 시간이 18시간 미만)
- Intel 3의 선두 차량(144 코어)
- 신규 등급의 제온 CPU(클라우드 최적화 워크로드용 구축)

★ 리눅스 애플리케이션 스트레스 시연 : 144 코어 전체 동작!

인텔 제온 스케일러블 서버(데이터센터) CPU - 제품군 전체 출시 로드맵

- 오늘 : 인텔 4세대 제온 스케일러블 서버(데이터센터) CPU(코드명 : 사파이어 라피드) ☞ 'P(성능)' 코어
- 2023(4분기) : 인텔 5세대 제온 CPU(코드명 : 에메랄드 라피드) ☞ 'P(성능)' 코어
- 2024(상반기) : 인텔 차세대 제온 CPU(코드명 : 시에라 포레스트) ☞ 'E(효율)' 코어
- 2024(시에라 포레스트를 뒤따름) : 인텔 차세대 제온 CPU(코드명 : 그래넷 라피드) ☞ 'P(성능)' 코어
※ 2025년 신규 라인업 추가! : 인텔 차세대 제온 CPU(코드명 : 클리어워터 포레스트) ☞ 'E(효율)' 코어

인텔 '데이터센터 & AI(이하 DCAI)' 아키텍쳐의 제품군 전체 진화 로드맵(2023년 ~ 2025년)

- 서버(데이터센터)의 'P(성능)' 코어 탑재 CPU
① 4세대 제온(사파이어 라피드), 제온 CPU 맥스
② 5세대 제온(에메랄드 라피드)
③ 차세대 제온(그래넷 라피드)

- 서버(데이터센터)의 'E(효율)' 코어 탑재 CPU
① 차세대 제온(시에라 포레스트)
② 차세대 제온(클리어워터 포레스트)

- 서버(데이터센터) GPU
① 데이터센터 FLEX(코드명 : 아틱 사운드-M) + 신규 라인업 추가(멜빌 사운드)
② 데이터센터 MAX(코드명 : 폰테 베키노) + 신규 라인업 추가(팔콘 쇼어스)

- AI 가속기 : 하바나-가우디 2 + 신규 라인업 추가(하바나 가우디 3) / 차세대 가속기 아키텍쳐

- FGPA : STRATiX, eASIC, AGILE[(2023년 PRQ(제품 출시 자격 확인) 예정인 15개의 새로운 FPGA] + eASIC & AGILEX(차세대 FPGA)

AI의 진정한 민주화
- 광범위한 액세스
- 배치
- 클라우드에서 네트워크에서 에지로
- 개방형 생태계

AI 가속기의 기회(> 400억 달러 규모의 논리 실리콘 TAM(전체 시장 도메인 크기) - 2027)

☞ AI실리콘(60%)
① 일반 컴퓨팅
- 주로 CPU에서 관리
- 데이터 처리, 수집, 관리 및 이동
- 중소형 AI 모델

② 가속화된 컴퓨팅(40%)
- 현재 GPU 및 특수 가속기에 의해 서비스됨
- 대형 모델(> 1000억 매개변수)

※ 시장과 함께 성장하는 일반 컴퓨팅 및 가속 컴퓨팅에 대한 수요

AI를 이용한 인터넷 동영상 가속화(Feat. 인텔 제온 CPU)
▶ 비디오 처리 : 'AVX-512'와 "인텔 'Deep Learning(DL) Boost'"를 사용한 통계적 AI 분석으로 영상 처리 파이프라인 가속화

▶ 컨텐츠 배포(확장 → 배포) : 인텔 'Data Streaming Accelerator(DSA)' 및 'Quick Assist Technology(QAT)'를 사용하여 배포용 가속 및 암호화 콘텐츠

다중언어 개발사의 사용 사례[Feat. 인텔 4세대 제온 스케일러블(사파이어 라피드) + 하바나-가우디 2 AI 가속기]
- 고객사 : Hugging Face, Stability.ai

AI 컴퓨팅 확장(클라우드에서 네트워크로, 에지 디바이스로)

① 대규모 데이터 센터 클러스터
- 수 천억 개의 매개변수 모델
- 256 제온 CPU
- 512 Gaudi 딥 러닝 가속기

② 시스템 차원의 접근
- 네트워킹
- 메모리 대역폭 및 용량
- 산업 프레임워크를 지원하는 소프트웨어

③ 인텔 OpenVINO가 탑재된 휴대용 모델
- 한 번 구축하고 어디서나 배포
- 수백만 건의 다운로드, 수십만 명의 개발자
- 다양한 업종에서 사용

※ 97% 규모의 효율성

인텔, 그렉 라벤더(최고기술 책임자 겸 '소프트웨어 & 고급 기술' 그룹 총괄 매니저) 등장!

모두를 위한 AI 민주화
- 개방성(프로그래밍 가능성)
- 선택(호환성)
- 신뢰(엣지 장비에서 추론)
① AI를 위한 개방형 가속 컴퓨팅
② H/W / 아키텍처

※ 확장(배포 메카니즘 인프라스트럭쳐)

모두를 위한 AI 민주화[개방성(프로그래밍 가능성) - 생태계의 채택]

- 파이토치
- 텐서플로우
- 딥스피드
- 트랜스포머
※ SYCL(C언어 확장 - 크로노스 그룹)

모두를 위한 AI 민주화[선택(호환성) - 개방형 가속화 컴퓨팅]
- 인텔 'One'API : 85% 이상(설치 기반 증가 '21 ~ '22)
- 인텔 활성화 개발자 : 620만명
- 인텔 도구 기반의 'AI' / 'ML' 사용 개발자 : 64%

※ 인텔 'OpenVINO' + AI 분석 도구
※ SYCLomatic : 엔비디아(CUDA) > 마이그레이션 > C++(With SYCL) > 개발 > 도구
[90% 이상의 'CUDA(엔비디아)' 코드가 SYCL로 자동 마이그레이션됨]

모두를 위한 AI 민주화[확장 = 인텔 클라우드 개발자]
※ 확장(배포 메카니즘 인프라스트럭쳐) = cloud.intel.com

인텔, 2023 투자자 웨비나 컨퍼런스의 종합 정리
- 크고 성장하는 TAM(전체 시장 도메인 크기)에서 경쟁.
- 제품 로드맵이 순조롭게 진행 중이며 주요 이정표를 달성.
- 진정한 AI 민주화를 위한 자산 배치.

존 피쳐 부사장과 산드라 리베라 부사장의 Q&A 세션이 시작됩니다

(이 부분은 생략하겠습니다)

(재방송)인텔, 2023 투자자 웨비나 컨퍼런스 댓글 생중계가 끝났습니다. 시청해주셔서 감사합니다!

내일 오전 중으로 전체 정리본을 올려드릴 예정이오니, 참고해주시면 감사하겠습니다:)

잘 보고 갑니다