[키워드]

▶크게 성장하는 TAM 시장

- 인텔 제온 서버(데이터센터) CPU : 인스트림 컴퓨팅의 기반

- 제품군 출시 로드맵의 실행

- 고성장 워크로드 경쟁 및 승리

▶ 실리콘 매출(이익)은 CPU 코어 추세의 동향

- 강력한 성장 궤적을 가진 컴퓨팅 수요

- 이전 세대보다 빠른 속도로 증가하는 제온 코어 성장

- CPU 코어, 내장 가속 및 이기종 컴퓨팅을 통해 고객 가치 제공

※ 그래프(x86 기반 메인스트림 컴퓨팅)

★ 연도 : 2018 ~ 2027

★ 항목 : CPU 코어 배포(출시), 실리콘 매출(이익)

☞ 20년대 중반에 성장하는 주류 컴퓨팅 코어 CAGR(연 평균 성장률)

▶ 진화하는 데이터 센터 인프라 요구 사항

- $TCO를 유발하는 다양한 요구 사항(코어 성능, 와트 성능, V/M 성능, SOCKET 성능)

- 고성능 코어 성능에 대한 지속적인 요구

- 와트당 최고의 성능을 제공하는 코어에 대한 수요 증가

※ 그래프

① 항목 : CPU 당 성능비, 성능 밀도(와트 당 성능, 면적 당 성능)

② 내용(워크로드 및 용도)

- 컴퓨팅 최적화 워크로드(코어 최적화 성능)

- 범용 워크로드

- 고밀도 컴퓨팅, 데이터 이동 워크로드(코어 밀도 최적화)

▶ AI의 진정한 민주화

- 광범위한 액세스

- 배치

- 클라우드에서 네트워크에서 에지로

- 개방형 생태계

▶ 모두를 위한 AI 민주화

- 개방성(프로그래밍 가능성)

- 선택(호환성)

- 신뢰(엣지 장비에서 추론)

① AI를 위한 개방형 가속 컴퓨팅

② H/W / 아키텍처

※ 확장(배포 메카니즘 인프라스트럭쳐)

[시장 - 인텔 서버(데이터센터) 부문]

▶ 인텔 제온 서버(데이터센터) CPU : CPU 코어의 리더쉽

- 더 높은 성능

- 총 소유 비용 절감

※ 모든 코어가 동일하게 생성되는 것은 아님.

▶ 인텔 DCAI 실리콘 TAM(전체 시장 도메인 크기)의 기회

- 이기종 컴퓨팅의 성장

- AI, 네트워킹, 보안 및 기타 전략적 워크로드의 성장

- 그래프

① 연도 : 2022 ~ 2027

② 항목 : 서버(데이터센터) CPU & 칩셋, GPU, FPGA, ASIC

③ 매출 : 2022년(400억 달러) ~ 2027년(1100억 달러)

▶ AI 가속기의 기회(> 400억 달러 규모의 논리 실리콘 TAM(전체 시장 도메인 크기) - 2027)

☞ AI실리콘

① 일반 컴퓨팅(60%)

- 주로 CPU에서 관리

- 데이터 처리, 수집, 관리 및 이동

- 중소형 AI 모델

② 가속화된 컴퓨팅(40%)

- 현재 GPU 및 특수 가속기에 의해 서비스됨

- 대형 모델(> 1000억 매개변수)

※ 시장과 함께 성장하는 일반 컴퓨팅 및 가속 컴퓨팅에 대한 수요

[서버(데이터센터) - CPU 코어]

▶ 메인스트림 컴퓨팅에 최적화된 CPU

① P(성능) 코어(성능 최적화)

- 고성능 코어 성능

- 내장된 가속기로 워크로드에 최적화된 성능

☞ 그래프

- 항목 : CPU 당 성능비, 성능 당 성능(와트 당 성능, 신장 당 성능)

- '코어당 성능 최적화'

② E(효율) 코어(효율 최적화)

- 최적화된 와트당 성능

- 높은 코어 밀도

- 높은 처리량 성능

☞ 그래프

- 항목 : CPU 당 성능비, 성능 당 성능(와트 당 성능, 신장 당 성능)

- '코어 밀도 최적화'

[서버(데이터센터) - H/W]

▶ 인텔 4세대 제온 스케일러블 서버(데이터센터) CPU(강력한 고객 채택으로 출시)

- 450개 이상의 디자인 수상(모든 제온 제품군 중 가장 많은 것) 200개 이상의 디자인

- 200개 이상의 디자인이 오늘 배송됩니다(대부분 엠바고 해제 시 / 배송 예정일).

- 공급(오늘 고객 수요 충족 및 2023년 내내 건강한 공급망)

- 50개 이상의 모든 주요 OXM 배송(오리지널 장비 제조업체 + 독창적 디자인 제조업체)

- 상위 10개(현재 및 2023년 내내 글로벌 CSP 배포) ☞ 클라우드 서비스 ISP

▶인텔 4세대 제온 스케일러블 서버(데이터센터) CPU AI 이미징 및 언어 워크로드 데모 시연

(인텔 'Advanced Matrix Extensions' 활성화)

- 경쟁사 : AMD

- 경쟁사 서버(데이터센터) CPU : 4세대 EPYC(에픽)

- 공통 CPU 코어 : 48코어

→ 최대 3.98배(4배) 차이 성능을 자랑함.

※ 성능 측정 항목[AMD 에픽 vs 인텔 제온, 단위 : Image/s & Sentences/s(BERT-Large)]

- SSD-RN34(44.96 vs 210.337)

- Resnet 50(2521.89 vs 6209)

- BERT-Large(15.84 vs 86.33)

▶ '인텔 5세대 제온 스케일러블 서버(데이터센터) CPU(코드명 : 에메랄드 라피드)'

※ 오늘 CPU 샘플링, 2023년 4분기에 출시 예정

- 고품질 실리콘 반도체(볼륨 검증 중)

- 동일한 전력 범위에서 와트당 더 높은 성능(세대 간 코어 밀도 증가)

- '4세대 제온 서버(데이터센터) CPU(사파이어 라피드)'와 동일한 플랫폼(이전 세대에서 쉬운 마이그레이션 경로)

▶ 인텔 제온 CPU(코드명 : 그래넷 라피드) - 시에라 포레스트에 이어 2024년 인도 예정

- 우수한 실리콘 반도체(모든 주요 엔지니어링 이정표 달성)

- 성능 최적화(Intel 3 기반 최초의 성능 코어 Xeon)

- 플랫폼 개선(코어 밀도 증가, 메모리 및 I/O 혁신)

※ 인텔, 'MCR(Multiplexer Combined Rank)'이라는 신규 메모리 DIMM 규격을 개발함

- 메모리 규격 : DDR5

- DDR5 최대 지원속도 : 8800MT/s

- 피크 대역폭 : 83%

- 전송속도 : 1초당 1.5테라바이트

▶ 인텔 제온 CPU(코드명 : 시에라 포레스트) - 제온 CPU 라인업 역사상 처음으로 'E(효율)-코어' 탑재

※ 오늘 샘플링, 2024년 상반기 출시 예정

- 우수한 실리콘 반도체(실리콘 전원 기동, OS 부팅 시간이 18시간 미만)

- Intel 3의 선두 차량(144 코어)

- 신규 등급의 제온 CPU(클라우드 최적화 워크로드용 구축)

★ 리눅스 애플리케이션 스트레스 시연 : 144 코어 전체 동작!

[서버(데이터센터) - 제품군 전체 포트폴리오]

▶ 인텔의 가장 광범위한 제품군 포트폴리오 제공(클라우드에서 네트워크를 통해 지능형 엣지 장치에 이르기까지 혁신 주도)

- 서버(데이터센터) CPU : 제온(MAX, E, 오리지널, D), 아톰

- 서버(데이터센터) GPU : '데이터센터 GPU'(MAX 시리즈, FLEX 시리즈)

- 가속기 : 하바나, 모비디우스, AGILEX, STRATIX, eASIC

- 연결성 : IPU(인프라 처리 장치), 이더넷, Si-Photonics

※ 인텔 '1(One)' API : 여러 아키텍처에 걸친 단일 코드 기반

▶ 인텔 제온 스케일러블 서버(데이터센터) CPU - 제품군 전체 출시 로드맵

- 오늘 : 인텔 4세대 제온 스케일러블 서버(데이터센터) CPU(코드명 : 사파이어 라피드) ☞ 'P(성능)' 코어

- 2023(4분기) : 인텔 5세대 제온 CPU(코드명 : 에메랄드 라피드) ☞ 'P(성능)' 코어

- 2024(상반기) : 인텔 차세대 제온 CPU(코드명 : 시에라 포레스트) ☞ 'E(효율)' 코어

- 2024(시에라 포레스트를 뒤따름) : 인텔 차세대 제온 CPU(코드명 : 그래넷 라피드) ☞ 'P(성능)' 코어

※ 2025년 신규 라인업 추가! : 인텔 차세대 제온 CPU(코드명 : 클리어워터 포레스트) ☞ 'E(효율)' 코어

▶ 인텔 '데이터센터 & AI(이하 DCAI)' 아키텍쳐의 제품군 전체 진화 로드맵(2023년 ~ 2025년)

- 서버(데이터센터)의 'P(성능)' 코어 탑재 CPU

① 4세대 제온(사파이어 라피드), 제온 CPU 맥스

② 5세대 제온(에메랄드 라피드)

③ 차세대 제온(그래넷 라피드)

- 서버(데이터센터)의 'E(효율)' 코어 탑재 CPU

① 차세대 제온(시에라 포레스트)

② 차세대 제온(클리어워터 포레스트)

- 서버(데이터센터) GPU

① 데이터센터 FLEX(코드명 : 아틱 사운드-M) + 신규 라인업 추가(멜빌 사운드)

② 데이터센터 MAX(코드명 : 폰테 베키노) + 신규 라인업 추가(팔콘 쇼어스)

- AI 가속기 : 하바나-가우디 2 + 신규 라인업 추가(하바나 가우디 3) / 차세대 가속기 아키텍쳐

- FGPA : STRATiX, eASIC, AGILE[(2023년 PRQ(제품 출시 자격 확인) 예정인 15개의 새로운 FPGA] + eASIC & AGILEX(차세대 FPGA)

▶AI 컴퓨팅 확장(클라우드에서 네트워크로, 에지 디바이스로)

① 대규모 데이터 센터 클러스터

- 수 천억 개의 매개변수 모델

- 256 제온 CPU

- 512 Gaudi 딥 러닝 가속기

② 시스템 차원의 접근

- 네트워킹

- 메모리 대역폭 및 용량

- 산업 프레임워크를 지원하는 소프트웨어

③ 인텔 OpenVINO가 탑재된 휴대용 모델

- 한 번 구축하고 어디서나 배포

- 수백만 건의 다운로드, 수십만 명의 개발자

- 다양한 업종에서 사용

※ 97% 규모의 효율성

★ 인텔의 주요 채택 고객(벤더)사

- 델 테크놀로지

- HP 엔터프라이즈

- 레노버

★ 다중언어 개발사의 사용 사례[Feat. 인텔 4세대 제온 스케일러블(사파이어 라피드) + 하바나-가우디 2 AI 가속기]

- 고객사 : Hugging Face, Stability.ai

[서버(데이터센터 CPU - S/W]

▶ AI를 이용한 인터넷 동영상 가속화(Feat. 인텔 제온 CPU)

- 비디오 처리 : 'AVX-512'와 "인텔 'Deep Learning(DL) Boost'"를 사용한 통계적 AI 분석으로 영상 처리 파이프라인 가속화

- 컨텐츠 배포(확장 → 배포) : 인텔 'Data Streaming Accelerator(DSA)' 및 'Quick Assist Technology(QAT)'를 사용하여 배포용 가속 및 암호화 콘텐츠

▶ 모두를 위한 AI 민주화[개방성(프로그래밍 가능성) - 생태계의 채택]

- 파이토치

- 텐서플로우

- 딥스피드

- 트랜스포머

※ SYCL(C언어 확장 - 크로노스 그룹)

▶ 모두를 위한 AI 민주화[선택(호환성) - 개방형 가속화 컴퓨팅]

- 인텔 'One'API : 85% 이상(설치 기반 증가 '21 ~ '22)

- 인텔 활성화 개발자 : 620만명

- 인텔 도구 기반의 'AI' / 'ML' 사용 개발자 : 64%

※ 인텔 'OpenVINO' + AI 분석 도구

※ SYCLomatic : 엔비디아(CUDA) > 마이그레이션 > C++(With SYCL) > 개발 > 도구

[90% 이상의 'CUDA(엔비디아)' 코드가 SYCL로 자동 마이그레이션됨]

▶ 모두를 위한 AI 민주화[확장 = 인텔 클라우드 개발자]

※ 확장(배포 메카니즘 인프라스트럭쳐) = cloud.intel.com