Skip to content

기글하드웨어기글하드웨어

컴퓨터 / 하드웨어 : 컴퓨터와 하드웨어, 주변기기에 관련된 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.

Extra Form
참고/링크 https://www.amd.com/en/corporate/events/advancing-ai.html

00. AMD Advancing AI(Instinct MI300 GPU).jpg

 

2023년 12월 07일 오전 3시, 'AMD, Together We Advance_Advancing AI[인스팅트 MI300 서버(데이터센터) GPU]' 컨퍼런스가 생중계되었는데요.

 

당시 게시자 본인도 댓글 생중계를 진행하고, 이에 댓글 내용을 전체 취합 및 정리하여 'AMD, Together We Advance_Advancing AI[인스팅트 MI300 서버(데이터센터) GPU]' 컨퍼런스 전체 정리본을 올려드립니다.

 

많은 도움이 되셨으면 좋겠습니다. 감사합니다.

 

 

[키워드]

▶ AI(인공지능), 50년 만에 가장 혁신적인 기술 + 연관 직종

- 의료 산업

- 기후 연구

- AI 조수

- 로보틱스

- 보안

- 컨텐츠 제작

 

▶ AI(인공지능) 가속기 시장의 변화

① 1년 전의 AI 가속기 시장 현황

- 2023년 : 300억 달러

- 2027년 : 1,500억 달러 이상

※ CAGR(연 평균) ~50% 성장함(데이터센터 AI 가속기)

 

② 오늘의 AI 가속기 시장

- 2023년 : 450억 달러

- 2027년 : 4,000억 달러 이상

※ CAGR(연 평균) ~70% 성장함(데이터센터 AI 가속기)

 

▶ AI(인공지능)의 인프라 고도화(End-to-End)

- 클라우드

- HPC(고성능 컴퓨팅)

- 엔터프라이즈

- 임베디드

- PC

 

▶ 생성-AI(인공지능) : 가장 까다로운 서버(데이터센터)의 워크로드

 

▶ 개방형 네트워킹 : AI(인공지능) 인프라 기반

 

▶ AI 성능(그래프) - 클러스터 성장을 촉진해야 함(모델 훈련에 필요한 GPU 수)

- 수평 : 연도(2016 ~ 2024년)

- 수직 : 총 클러스터 사이즈(퍼블릭 데이터)

 

▶ 서버 내 확장

- 'Front-End' 네트워크(데이터센터와의 연결)

- 'Back-End' 네트워크(클러스터 확장)

- 구성요소 : CPU, GPU, NIC

※ 서버 이상으로 확장(GPU 작업 공간 확장)

※ 각 서버에서 긴밀하게 상호 연결된 GPU

 

▶ 네트워크의 중요성

- 키워드 : 고성능, 확장성, 개방형(정답은 '이더넷' ☞ 울트라 이더넷 컨소시엄)

- 구성요소 : 'Front-End' 네트워크, 'Back-End' 네트워크

 

▶ 클라우드와 클라이언트 전반에 걸친 원활한 컴퓨팅

- 개인정보 보호

- 비용 절감

- 대기 시간 이점

- 성능

- 개인화

 

 

[AMD]

▶ AI(인공지능)의 AMD

- 광범위한 교육 및 추론 컴퓨팅 엔진 포트폴리오

- 개방적이고 검증된 S/W 기능

- 심층적인 공동 혁신을 갖춘 AI 생태계

 

▶ AMD, AI 인프라스트럭쳐 솔루션(공식 출시)

- 클라우드

- 엔터프라이즈

- HPC(고성능 컴퓨팅)

- PC

 

▶ AMD, S/W 역량 강화(개발자 경험 강화)

① AI S/W 개발사 인수

- Mipsology(8월 25일에 인수 발표) : AI 추론 S/W 개발사(고효율 추론)

- Nod.AI(10월 10일에 인수 발표 : '오픈 소스' 기반 AI S/W 개발사

 

② S/W 역량 개발 강화 전략

- 오픈 소스 전략 확장

- 컴파일러 기반 최적화 개선

- 고객 참여 가속화

 

▶ AMD 플랫폼, 개발자의 변곡점

- 서버(데이터센터) GPU : AMD Instinct(인스팅트) MI300X[AMD 인스팅트 GPU 플랫폼]

- S/W 플랫폼 : AMD Radeon Open Compute platfor'm'(ROCm) 6.0

- 생태계 확장 : Hugging Face, PyTorch(파이토치), OpenAI, ONNX, JAX, OAI Triton 등등

※ '생성-AI(인공지능)'의 리더쉽 성능을 제공함

 

▶ AMD - '혁신가 & 전략적 파트너'에게 액세스를 확대함

- AMD Infinity Fabric(인피니티 패브릭) 생태계

 

▶ AMD Advantage(어드밴티지) - 새로운 성능 기능 잠금 해제

- 통합 메모리

- AMD 인피니티 캐시 메모리

- 동적 전력 공유

- 간소화 프로그래밍

 

▶ AMD, 'End-To-End' 기반의 AI(인공지능) 인프라스트럭쳐 고도화

 

※ AMD, 'Together We Advance_Advancing AI(인공지능)' 컨퍼런스의 주요 세션 간략 내용 ※

① AMD Instinct(인스팅트) MI300X 서버(데이터센터) APU : 대량 생산 출시

- 벤더사 : HPE, Eviden, 기가바이트, 슈퍼마이크로

- 미국 LLNL : El-Capitan 슈퍼컴퓨터에 탑재

 

② AMD Instinct(인스팅트) MI300X 서버(데이터센터) GPU : 오늘 출시

- AI 솔루션 생태계 참여사 : 마이크로소프트, 메타(페이스북), 오라클,

- AI 솔루션 제조 벤더사 :  델 테크놀로지, HPE, 레노버, 슈퍼마이크로, 아수스, 기가바이트, Ingrasys,, Inventec, QCT, Wistron, wiwynn

- AI 인프라스트럭쳐 선택 규모 확대기업 : Aligned, Aron Energy, Cirrascale, Crusoe, DenVR(DataWorks), TensorWave

- AI 네트워크 전문 벤더사 : ARISTA, 브로드컴, 시스코 시스템

 

③ AMD 'Radeon Open Compute platfor'm'(ROCM)

- 신규 버전 : 6.0(2023년 12월 중에 출시 예정)

- AI S/W 생태계 혁신가 및 기업 : Hugging Face, PyTorch(파이토치), OpenAI, ONNX, JAX, OAI Triton, TensorFlow, 데이터브릭, Essential-AI, Lamini, IBM 등

 

④ AMD RYZEN 8040 모바일 APU(H/W - 호크 포인트)

- 벤더사 : 아수스, 마이크로소프트(윈도우 11 OS), HP, 에이서, 레노버, 델 테크놀로지

 

01.jpg

[클라이언트 모바일 CPU(APU) - H/W]

▶ AMD RYZEN 8040 모바일 APU H/W 시리즈 라인업 공식 발표!

- 코드명 : Hawk Point(호크 포인트)

- CPU : 'ZEN 4' CPU 마이크로아키텍처(8 코어 / 16 스레드)

- GPU : '3rd RDNA' GPU 마이크로아키텍처

- AI(XDNA) : 16 TOPs

- 프로세서 전체 성능 : 39 TOPs

※ 조만간 AI-PC 프로세서 탑재 출시 예정

 

[클라이언트 모바일 CPU(APU) - 벤치마크]

▶ AMD RYZEN 8040 모바일 APU 벤치마크(성능의 리더쉽) ▶ 벤치마크 대상 APU : AMD 'RYZEN 8945HS' 모바일 APU

☞ 경쟁사 모바일 CPU : 13세대 인텔 '코어 i9 13900H'

- 멀티 스레드 : 1.1배 성능 차이

- 게이밍 성능 : 1.8배 성능 차이

- 컨텐츠 제작 : 1.4배 성능 차이

 

▶ AMD RYZEN 8040 모바일 APU의 'NPU' 벤치마크(성능 향상)

☞ 비교 대상 모바일 APU : AMD 'RYZEN 7040 모바일 APU' 시리즈

- Llama 2 성능 : 최대 1.4배 성능

- Vision Models : 최대 1.4배 성능

 

03.jpg

02.jpeg

▶ AMD, 3rd CDNA '서버(데이터센터) GPU' 마이크로아키텍처 주요 특징

- FP16 | BF16 수치 : 3.4배 성능 자랑

- INT8 수치 : 6.8배 성능 자랑

- 메모리 용량 : 최대 1.5배 더 많음

- 메모리 대역폭 : 최대 1.6배 더 많음

- 지원 내용 : TF32, FP8, 희소성

- AMD 인피니티 캐시 메모리 : 256MB 탑재

[서버(데이터센터) GPU - H/W]

① AMD Infinity Architecture(인피니티 아키텍처)의 연도별 변화

▶ 2021년(3세대 인피니티 아키텍처)

- 서버(데이터센터) CPU : 3세대 EPYC(에픽) ↔ DDR 메모리 - 'ZEN 3' CPU 마이크로아키텍처

- 서버(데이터센터) GPU : 2세대 Instinct(인스팅트) MI250X ↔ HBM2e 메모리- '2nd CDNA' GPU 마이크로아키텍처

 

▶ 2023년(4세대 인피니티 아키텍처)

- 서버(데이터센터) APU : AMD Instinct(인스팅트) MI300A

- 서버(데이터센터) APU(CPU) : 4세대 EPYC(에픽) → 'ZEN 4' CPU 마이크로아키텍처

- 서버(데이터센터) APU(CPU) : 3세대 Instinct(인스팅트) → '3rd CDNA' GPU 마이크로아키텍처

※ APU 내 'CPU 다이' + 'GPU 다이'는 통합 메모리(HBM3)로 연결됨!

04.jpg

②-1. AMD Instinct(인스팅트) MI300A 서버(데이터센터) APU 공식 발표!

- 4th 'ZEN' '서버(데이터센터) CPU' 마이크로아키텍처

- 3rd CDNA '서버(데이터센터) GPU' 마이크로아키텍처

- CPU CCD(4th ZEN) : 최대 24코어 탑재(x86 마이크로아키텍처)

- XCD CU(3rd CDNA) : 최대 228개 탑재(코어 개수 : 64개 기준 14,592개)

- I/O 다이 : 최대 4개 탑재[AMD 인피니티 캐시 메모리(256MB) 탑재]

- 메모리(HBM3) : 128GB(대역폭 : 5.3TB/s)

- 트랜지스터 : 1460억개

 

☞ 성능 사양

- FP64 : 61 TF(테라플롭스)

- FP32 : 122 TF(테라플롭스)

- FP64 : 61 TF(테라플롭스)

※ 세계 최초의 'HPC(고성능 컴퓨팅) & AI(인공지능)' 전용으로 특화된 서버(데이터센터) APU

 

②-2. AMD Instinct(인스팅트) MI300A 서버(데이터센터) APU - OEM 벤더사 & 솔루션

- HPE, EVIDEN, 기가바이트, 슈퍼마이크로

 

②-3. AI(인공지능) & HPC(고성능 컴퓨팅) = 융합의 가속화

- AMD Instinct(인스팅트) MI300A : 'CosmoFlow'를 통한 딥-러닝을 통해 대규모로 우주 학습이 가능함.

05.jpg

③-1. AMD Instinct(인스팅트) MI300X 서버(데이터센터) GPU 공식 소개!

- 3rd CDNA '서버(데이터센터) GPU 마이크로아키텍처

- '생성-AI(인공지능)'의 발전에 특화된 GPU

- 트랜지스터 : 1530억개

- 제조공정 : 5nm & 6nm

- XCD CU(3rd CDNA) : 최대 304개 탑재(코어 개수 : 64개 기준 19,456개)

- I/O 다이 : 최대 4개 탑재[AMD 인피니티 캐시 메모리(256MB) 탑재]

- 메모리(HBM3) : 192GB(대역폭 : 5.3TB/s)

※ AMD Instinct(인스팅트) MI300X GPU 가속기 - '생성-AI(인공지능)'의 리더쉽

 

③-2. AMD Instinct(인스팅트) MI300X 서버(데이터센터) GPU - OEM 벤더사 & 솔루션

- 델 테크놀로지, HPE, 레노버, 슈퍼마이크로

- 아수스, 기가바이트, Inventec, Ingrasys, QCT, Wistron, wiwynn

 

③-3. AMD Instinct(인스팅트) 'MI300X' GPU 인프라스트럭쳐 선택 규모 확대 기업

- Aligned

- Aron Energy

- Cirrascale

- Crusoe

- DenVR DataWorks

- TensorWave

 

06.jpg

④ AMD Instinct(인스팅트) GPU 플랫폼 주요 내용 공식 소개![업계 최고의 '생성-AI(인공지능)' 플랫폼]

- 서버(데이터센터) GPU : AMD Instinct(인스팅트) MI300X * 8개

- 메모리 용량의 리더쉽 : 192GB * 8개 : 최대 1.5TB

- 4세대 AMD 인피니티 패브릭

- 산업 표준 디자인(OCP 인프라스트럭쳐)

 

[서버(데이터센터) GPU - 벤치마크]

①-1. AMD 인스팅트 MI300A ☞ 성능의 리더쉽(벤치마크) / 경쟁사 : 엔비디아 H100 서버(데이터센터 GPU)

- 메모리 용량 : 1.6배 더 많음

- 메모리 대역폭 : 1.6배 더 많음

- FP16(TF) : 1배 더 많음

- FP32 & FP64(TF) : 1.8배 더 많음

※ 새로운 차원의 고성능 리더십 '서버(데이터센터) APU'

 

①-2. AMD Instinct(인스팅트) MI300A ☞ HPC 성능의 리더쉽(벤치마크) / 경쟁사 : 엔비디아 H100 서버(데이터센터 GPU)

- 벤치마크 결과 : 최대 4배 더 빠른 성능을 자랑함

- 벤치마크 구성요소 : GPU 성능, 메모리(용량 & 대역폭), 통합 메모리

※ 벤치마크 실행 프로그램 : OpenFOAM

 

①-3. AMD Instinct(인스팅트) MI300A ☞ HPC 성능의 리더쉽(벤치마크) / 경쟁사 : 엔비디아 '그레이스-호퍼' 슈퍼칩

- 와트당 성능비 : 최대 2배 향상을 자랑함

[서버(데이터센터) GPU - 벤치마크]

②-1. AMD Instinct(인스팅트) MI300X ☞ '생성-AI'의 리더쉽 벤치마크[경쟁사 : 엔비디아 H100 서버(데이터센터 GPU)]

- 메모리 용량 : 2.4배 차이

- 메모리 대역폭 : 1.6배 차이

- FP8(테라플롭스) : 1.3배 성능

- FP16(테라플롭스) : 1.3배 성능

 

②-2. AMD 인스팅트 MI300X ☞ 주요 AI(인공지능) 성능 벤치마크[경쟁사 : 엔비디아 H100 서버(데이터센터 GPU)]

- Flash Attention-2(중형 커널) : 1.1배 차이

- Flash Attention-2(대형 커널) : 1.2배 차이

- Llama II(700억개 매개 변수) 모델(중형 모델) : 1.2배 차이

- Llama II(700억개 매개 변수) 모델(대형 모델) : 1.1배 차이

※ 공통 LLM 커널(TFLOPS)

 

②-3. 세계적 수준의 훈련 성능 비교[단일 서버(8개 GPU) - 대역폭]

- AMD Instinct(인스팅트) MI300X : 최대 1배 차이

- 엔비디아 H100 HGX : X

※ AI 모델 : MPT(사이즈 : 300억 매개변수)

 

②-4. AMD Instinct(인스팅트) MI300X ☞ '추론' 성능의 리더쉽 벤치마크[경쟁사 : 엔비디아 H100 HGX 플랫폼]

- 'Bloom 모델' 대역폭 : 최대 1.6배 차이

- 'Llama II 모델' 지연 시간 단축 : 최대 1.4배 차이

※ AI 모델 : Bloom(사이즈 : 1,760억 매개변수), Llama II(사이즈 : 700억 매개변수)

※ 단일 서버(8개 GPU)

 

②-5. AMD 'Instinct(인스팅트) MI300X GPU' 플랫폼 비교[경쟁사 : 엔비디아 H100 HGX 플랫폼]

- 메모리 : 엔비디아(640GB) vs AMD(1.5TB) ☞ 최대 2.4배 더 많은 메모리 용량 보유

- 컴퓨팅 성능(FP16 / BF16) : 엔비디아(7.9 PF) vs AMD(10.4 PF) ☞ 최대 1.3배 더 빠른 성능을 자랑함

- 양방향 대역폭 : 엔비디아(900GB/s) vs AMD(896GB/s) ☞ 동등함(4GB 대역폭이 AMD가 모자름)

- 단일 노드-링 대역폭 : 엔비디아(450GB/s) vs AMD(448GB/s) ☞ 동등함(2GB 대역폭이 AMD가 모자름)

- NIC(GPU) : 엔비디아(400 GBe) vs AMD(400 GBe) ☞ 동등함

- PCI 익스프레스 버전 : 엔비디아(5.0) vs AMD(5.0) ☞ 동등함

 

②-6. AMD 'Instinct(인스팅트) MI300X GPU' 플랫폼 비교[경쟁사 : 엔비디아 H100 HGX 플랫폼]

- 성능당 시스템 : 엔비디아(훈련 & 추론 : 1배 성능) vs AMD[훈련(1배) + 추론(1.6배)]

- 모델당 시스템 : 엔비디아(훈련 & 추론 : 1배 성능) vs AMD[훈련(2배) + 추론(2배)]

- 최대 'LLM(대형 언어 모델)' 규모 지원 : 엔비디아(훈련 & 추론 : 1배 성능) vs AMD[훈련 & 추론(2배)]

※ Capital Expenditure(CapEx) 모델 비교 기준

 

07.png

[파트너쉽 - 마이크로소프트]

(1차)AMD & 마이크로소프트 파트너쉽 공식 발표!

- 출연자 : CTO(최고기술책임자) 케빈 스캇

- 추가 정보 : '마이크로소프트 이그나이트(2023)'에서 공식 발표

[AMD 'Instinct(인스팅트) MI300X' GPU 기반 VM : 'Azure ND MI300X V5']

 

08.jpg

(2차)AMD & 마이크로소프트 파트너쉽 공식 발표!

- 출연자 : 윈도우 OS & 디바이스 부문 CVP - Pavan Davuluri

 

▶ AMD RYZEN(라이젠) 및 마이크로소프트 윈도우 OS

- AI(인공지능) 경험을 생생하게 구현이 가능함

 

▶ 마이크로소프트 윈도우 - Windows Studio Effects(윈도우 스튜디오 효과)

- 자동 프레이밍

- 눈맞춤 교정

- 고급 배경 효과

※ 해당 효과 데모 사진 : '2세대 서피스 랩탑 스튜디오'의 소개 트레일러에서 나왔던 데모 사진

 

▶ 마이크로소프트 'CO-Pilot'

- PC에서 'AI(인공지능)'의 세계를 연결

- 신규 시스템 아키텍처(구성요소) : GPU, NPU, 클라우드(함께 결합)

- 윈도우-AI(인공지능) 생태계 + AMD RYZEN(라이젠) CPU ☞ 'AI(인공지능)' 혁신의 미래를 가능하게 하도록 설계되었음.

※ 윈도우 OS를 '최고의 AI(인공지능) 경험'을 위한 목적지로 설계

 

[파트너쉽 - 기타 벤더사]

▶ AMD & '오라클 클라우드' 파트너쉽 발표!

- 출연자 : OCP SVP, Karan Batta

 

▶ AMD & Meta(메타 - 구 페이스북) 파트너쉽 공식 발표!

- 출연자 : Meta AI - 시니어 엔지니어링 디렉터, Ajit Mathews

 

▶ AMD & 델 테크놀로지 파트너쉽 공식 발표!

- 출연자 : 코어 비즈니스 운영 부문 & 글로벌 인프라스트럭쳐 솔루션 그룹 사장 - Atrhur Lewis

 

▶ AMD & '슈퍼마이크로' 파트너쉽 공식 발표!

- 출연자 : 창업자 + 사장 겸 CEO, Carles Liang

 

▶ AMD & '레노버' 파트너쉽 공식 발표!

- 출연자 : 인프라스트럭쳐 솔루션 그룹 EVP & 사장 - Kirk Shaugen

 

▶ 미국 '로렌스 리버모어' 국립연구소

- AMD Instinct(인스팅트) MI300A APU 사용 사례 소개

 

AMD & "HPE' 파트너쉽 공식 발표!

- 출연자 : 'AI(인공지능) & 연구소 + HPC(고성능 컴퓨팅)' 부문 SVP + CPO(최고제품책임자) ☞ Trish Damkroger

[개발사(벤더사)]

▶ AI(인공지능) 혁신가 기업 초대

☞ 데이터브릭 : Ion Stoica(창업자, 총괄 회장)

- '기업-AI 개발'을 위한 'Mosaic-ML'의 '생성-AI(인공지능)' 플랫폼

 

☞ Essential-AI : Ashish Vaswani(창업자 & CEO)

- 'Essential-AI 임무'는 기업을 위한 인간-기계 협업을 가속화

 

☞ Lamini : Sharon Zhou(창업자 & CEO)

- 자신만의 모델을 구축하기 위한 LLM 플랫폼.

 

▶ AI(인공지능) 네트워크 전문 벤더사 출연

- ARISTA : Andy Bechtolsheim(최고 설계자)

- 브로드컴 : Jas Tremblay(데이터센터 솔루션 VP & 총괄 책임자)

- 시스코 시스템 : Jonathan Davidson(EVP & 총괄 책임자)

 

[S/W - 일반]

▶ S/W 비전 제공

- AMD Instinct(인스팅트 S/W 생태계 모멘텀

 

▶ 소프트웨어 투자 및 생태계 확대

 

▶ AI(인공지능) 솔루션 - 클라우드 ~ 엔드포인트

- 서버(데이터센터) CPU : ZenDNN ☞ '생성-AI(인공지능)' End to End

- 서버(데이터센터) GPU : ROCm(Radeon Open Compute platfor'm') ☞ 어느 모델

- 자일링스 Vitis-AI(클라이언트, 임베디드 엣지, 엔드포인트) : 광범위한 AI(인공지능) 생태계

 

09.jpg

[S/W - ROCm(Radeon Open Compute platfor'm')]

▶ AMD ROCm & S/W 모멘템

- AMD H/W(라데온 + 인스팅트 GPU) : 확장된 개발자 지원

- AMD ROCm(런타임, 컴파일러 & 도구, 라이브러리) : 확장된 '생성-AI' 최적화

- AI 모델 & 알고리즘[PyTorch(파이토치), 텐서플로우, ONNX, JAX) : 확장된 환경 지원

 

▶ AMD Radeon Open Compute platfor'm'(이하 ROCm) 6.0 신규 버전 공식 발표!

- '생성-AI(인공지능)'를 위한 신규 기능을 제공

- 확장된 생태계 지원 : 프레임워크, 모델, ML(머신 러닝) 파이프라인

- 고성능 AI 라이브러리 : 컴퓨팅 & 대역폭 오퍼레이터, 구조화된 희소성, 양자화 라이브러리

- 고급 LLM(대형 언어 모델) 최적화 : 동적 'FP16, BF16, FP8' 활용, 고급 주의 알고리즘 및 커널, 집단 커뮤니케이션, HIPGraph

[S/W - 벤치마크(ROCm - Radeon Open Compute platfor'm')]

▶ LLM(대형 언어 모델) 최적화(Feat. AMD ROCm 기능 개선)

- vLLM(추론 라이브러리 최적화) : 최대 2.6배 개선

- HIP 그래프(런타임 최적화) : 최대 1.4배 개선

- Flash Attention(커널 최적화) : 최대 1.3배 개선

 

▶ AMD Instinct(인스팅트) GPU + ROCm = 세대 간의 성능 비교

- Instinct 'MI250X' GPU + ROCm 5.0

- Instinct 'MI300X' GPU + ROCm 6.0

※ 세대 간의 성능  : 최대 8배 이상의 성능을 자랑함

※ 모델 : Llama II 모델(700억개 매개변수)

 

▶ '추론' 성능의 리더쉽 벤치마크[경쟁사 : 엔비디아 H100 서버(데이터센터) GPU] ☞ 단일 GPU 기준

- 모델 : Llama II(130억개 매개변수)

- AMD Instinct MI300X GPU : 최대 1.2배 성능을 자랑함

 

[S/W - 개발자(생태계)]

▶ 강력한 S/W 개발사 생태계 모멘텀

- Hugging Face: '62,000개 이상의 모델'이 야간에 실행되는 완전 통합형 최적 라이브러리

- PyTorch(파이토치) : 최신 플랫폼으로 '포팅'에서 '개발'까지 지원

- 오픈소스 기여 증가 및 영향력 확대(TensorFlow, JAX, ONNX 런타임, MLR/MEE, OpenSLA 등등)

 

※ 특별메세지 - [OpenAI(우리가 하는 ChatGPT 개발사 맞습니다!)] - Philippe Tillet

- OpenAI는 개방형 생태계를 지원하기 위해 AMD와 협력하고 있음.

- 다가오는 3.0 릴리스부터 스탠드 트리톤 배포판에 'AMD Instinct MI300'을 포함한 AMD의 GPU를 지원할 계획임

 

11.jpg

[AI(인공지능) - RYZEN-AI(라이젠-AI)]

▶ AMD RYZEN-AI(라이젠-AI)

- 전용 NPU : 진정한 지능적이고, 개인화된 경험을 가능하게 하기 위해 PC를 재구성함.

- 'AI(인공지능) PC' 시대를 선도 : 세계 최초로 'NPU'를 통합한 x86 CPU 마이크로아키텍처

- AMD 라이젠 7040 모바일 APU[Feat. AMD Xilinx-DNA(XDNA) 마이크로아키텍처]

 

▶ AMD 적응형-AI(인공지능) 아키텍처[Feat. AMD 라이젠 7040 모바일 APU(통합 NPU 탑재)]

- 확장 가능한 NPU 아키텍처

- 더 낮은 대기 시간을 위해 다이에 통합

- 고성능 및 에너지 효율성

- 최대 4개의 동시 전용 AI 스트림

 

▶ 2023년도 : '수백만 대'의 RYZEN-AI(라이젠-AI) PC를 출하

- 벤더사 : 에이서, 아수스, 델 테크놀로지, HP, 레노버

 

▶ AMD RYZEN-AI(라이젠-AI) 구성 요소

- 100개 이상의 AI 기반 경험(AMD RYZEN-AI 호환 PC를 위한 Adobe, Black Magic, Topaz Labs 등)

- NPU 기반 '윈도우 11 OS'의 '윈도우 스튜디오 효과'로 최초로 시장 규모 달성

- AMD 'RYZEN-AI S/W'로 AI PC에 '생성-AI(인공지능)' 채택 가속화

 

▶ AMD RYZEN-AI(라이젠-AI) S/W 1.0 버전 공식 발표!

- 순서 : 사전 훈련된 모델 → '모델 양자화 + ONNX Runtime'으로 배포 → 'RYZEN-AI' 노트북에서 실행할 준비가 된 애플리케이션

- AMD 'RYZEN-AI' 1.0 S/W : 빠르고 쉬운 배포로 몇 분 안에 시작이 가능함.

 

▶ 차세대 'RYZEN-AI(라이젠-AI)' AI 프로세서 로드맵 공식 발표![PC에서' 생성-AI(인공지능)' 위한 준비]

- 2023년 2분기 출시 : AMD RYZEN 7040(피닉스) 모바일 APU(1st XDNA) / 10 NPU TOPs(Total : 33 TOPs)

- 2024년 1분기 출시 예정: AMD RYZEN 8040(호크-포인트) 모바일 APU(1st XDNA) / 16 NPU TOPs(Total : 39 TOPs)

- 차세대 RYZEN-AI 아키텍처 로드맵 발표! : 2024년 내에 출시 예정[AMD 2nd XDNA AI 아키텍처 / 차세대 NPU & 생성-AI(인공지능) 기반] ☞ 코드명 : Strix-Point(스트릭스-포인트)

 

▶ AMD '2nd XDNA' AI 아키텍처 주요 내용

- AMD 'Strix Point(스트릭스 포인트)' 모바일 APU에 탑재(2024년 내로 출시 예정)

- NPU 성능 : 최대 3배 이상의 '생성-AI(인공지능)' 성능을 자랑함

 



  • profile
    360Ghz      case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2023.12.07 20:28
    벤더사 슈마면 드디어 만져볼 수 있으려나요...
  • ?
    포인트 팡팡! 2023.12.07 20:28
    360Ghz님 축하합니다.
    팡팡!에 당첨되어 5포인트를 보너스로 받으셨습니다.

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


  1. ASUS ROG Swift Pro PG248QP. 540Hz/0.2ms 게이밍 모니터

    ASUS ROG Swift Pro PG248QP 게이밍 모니터입니다. 화면 크기 24.1인치, 풀 HD 해상도, E-TN 패널을 사용해 응답 속도 0.2ms와 540Hz의 주사율을 실현. 지싱크 모듈 탑재, 모션 블러 절감, 384kHz/32비트 ESS 오디오 코덱 내장, 스탠드 다...
    Date2023.10.04 소식 By낄낄 Reply0 Views553 file
    Read More
  2. 인윈 모드프리 케이스. 3개의 모듈을 조합해서 커스텀

    3개의 모듈을 조합해서 커스텀하는 케이스인 인윈 모드프리입니다. 메인보드 트레이가 있는 모드 1 모듈에 하단 파워/스토리지 모듈, 상단/전면 라디에이터/쿨링팬 모듈을 장착하는 구조입니다. 이들 모듈은 인터락 클립 구조를 도입해 자...
    Date2023.10.04 소식 By낄낄 Reply1 Views486 file
    Read More
  3. MSI MAG 275CQRXF, 27인치 WQHD 240Hz 커브드 게이밍 모니터

    MSI MAG 275CQRXF 커브드 게이밍 모니터입니다. 화면 크기 27인치, 1000R 곡률, 2560x1440의 WQHD 해상도, 240hz 주사율, 래피드 VA 패널, 응답 속도 1ms, 최대 밝기 300니트, 명암비 2500:1, 수평/수직 시야각 178도, 디스플레이HDR 400,...
    Date2023.10.04 소식 By낄낄 Reply0 Views190 file
    Read More
  4. ASUS ROG Maximus Z790 APEX ENCORE 메인보드

    ASUS ROG Maximus Z790 APEX ENCORE 메인보드가 곧 나옵니다. Z790 에이펙스에 앙코르를 붙였는데요. Wi-Fi 6E에서 Wi-Fi 7로 업그레이드됩니다.
    Date2023.10.03 소식 By낄낄 Reply0 Views368 file
    Read More
  5. 14세대 인텔 코어 프로세서, 24코어 6GHz, 20코어 5.6GHz, 14코어 5.3GHz

    인텔 일본 지사가 앞으로 나올 CPU의 스펙을 대략적으로 소개했습니다. 8P 16E 24코어 6GHz, 8P 12E 20코어 5.6GHz, 6P 8E 14코어 5.3GHz입니다. 각각 코어 i9-14900K 코어 i7-14700K, 코어 i5-14600K로 보입니다.
    Date2023.10.03 소식 By낄낄 Reply0 Views726 file
    Read More
  6. 스레드리퍼 프로 7000 시리즈는 10월 19일날 발표한다?

        뭐 본 출처가 Wccftech발이라 반쯤 걍 거르고 보시면 되겠습니다만....     이 내용이 그대로 확정된다면 스레드리퍼 프로는 걍 이름만 스레드리퍼 프로인 스레드리퍼 노멀이 되겠군요.   1소켓만 되는 에픽 고클럭 버전에서 멤컨컷,...
    Date2023.10.03 소식 By류오동 Reply8 Views498 file
    Read More
  7. 마이크로소프트, AI(인공지능)를 위한 최고의 GPU는 엔비디아가 있지만, AMD도 매력적인 제품을 제조하고 있음.

      ▶ 마이크로소프트 최고기술책임자(CTO), 케빈 스콧[더 버지와 인터뷰 - 엔비디아 H100 서버(데이터센터) GPU] - 엔비디아 반도체가 더욱 쉽게 사용 가능해지기 시작했고, 공급망 상황이 훨씬 더 개선되었음 - 수요는 전체 생태계가 생...
    Date2023.10.03 소식 By블레이더영혼 Reply4 Views1162 file
    Read More
  8. 삼성 파운드리, Tenstorrent(텐스토렌트)를 차세대 AI 칩렛 제조의 고객사로 유치 발표

    ▶ Tenstorrent(텐스토렌트) CEO, 짐 켈러 - Keith Witek을 COO로 영입하여 삼성과 맺은 이와 같은 훌륭한 파트너십을 추진하게 되어 기쁘게 생각함. - 반도체 기술 발전에 대한 삼성 파운드리의 약속은 'RISC-V 및 AI'를 발전시키려는 우...
    Date2023.10.03 소식 By블레이더영혼 Reply2 Views1187 file
    Read More
  9. ISA 비디오카드에 HDMI 포트를 추가하는 개조

    ISA 비디오카드에 HDMI 포트를 추가하는 개조입니다. 재료로 쓴 GG(Graphics Gremlin)이라는 카드도 진짜 고전 하드웨어는 아니긴 합니다. Lattice iCE40HX4K FPGA와 512KB VRAM이 탑재된 현대적인 카드입니다. 여기에서 VGA 포트를 HDMI...
    Date2023.10.03 소식 By낄낄 Reply10 Views1426 file
    Read More
  10. 케이블모드의 ㄱ자 어댑터, 12V-2x6/CEM 5.1 표준 지원

    케이블모드의 ㄱ자 어댑터가 버전 1.1로 업그레이드됐습니다. 12V-2x6/CEM 5.1 표준을 지원합니다. 기준 버전 구매자들은 할인 쿠폰을 줍니다. 12VHPWR보다는 12V-2x6이 더 쓰기 쉬워서 좋긴 한데, 표준이 또 바뀌지 않고 이걸로 자리잡을...
    Date2023.10.03 소식 By낄낄 Reply3 Views710 file
    Read More
  11. No Image

    AMD의 차세대 모바일 APU, 스트릭스 포인트의 정보

    AMD 피닉스의 뒤를 이을 차세대 모바일 APU인 스트릭스 포인트의 정보입니다. TSMC N4P 225mm² 4c Zen 5 L3: 16 MB L2: 4 MB 8c Zen 5C L3: 16 MB L2: 8 MB 8 WGP RDNA3+ 64 AIE tile DDR5-5600 / LPDDR5X-8533 28-35+ W TSMC N4P 공...
    Date2023.10.03 소식 By낄낄 Reply4 Views864
    Read More
  12. 나트륨-칼륨 합금 액체 금속을 쓴 공냉 쿨러의 성능 테스트

    2010년에 개발된 Danamics LMX 액체 금속 CPU 쿨러입니다. 용용량은 물의 1/4이며 열전도율은 물의 30배인 나트륨-칼륨 합금 액체 금속을 히트파이프 안에 채운 쿨러입니다. 묵직한 액체 금속을 순환시키기 위해 쿨러 상단에는 펌프도 달...
    Date2023.10.03 소식 By낄낄 Reply7 Views867 file
    Read More
  13. 중국산 짝퉁 외장형 SSD의 분해

    중국산 짝퉁 외장형 SSD를 분해한 사진입니다. 짐작하신대로 마이크로 SD 카드가 들어 있네요. 그래도 슬롯도 2개고 글루건으로 나름 고정도 해뒀다는 점에서 쬐끔 양심적이군요.
    Date2023.10.03 소식 By낄낄 Reply4 Views1067 file
    Read More
  14. [더 버지]AMD 닥터 리사 수 회장 인터뷰[GPU 부족 / AI(인공지능) 혁명 / 엔비디아와의 경쟁]

      ※ 다소 정확하지 않을 수 있으며, 질문과 답변이 '오역 및 의역이 있을 수 있음'을 게시글 등록 전에 미리 밝힙니다.   ※ 청중의 질문 세션에 대한 내용은 제외하였습니다.   ▶ AMD 회장 & CEO - 닥터 리사 수 회장, 더 버지와의 ...
    Date2023.10.02 소식 By블레이더영혼 Reply3 Views1473 file
    Read More
  15. GPU 압축의 사이드채널 취약점, 픽셀을 훔치는 공격이 가능

    애플, 인텔, AMD, 퀄컴, Arm, NVIDIA 등 현재 거의 모든 회사의 GPU에서 작동하는 사이드채널 취약점 공격입니다. GPU는 전송 중이거나 저장하는 데이터의 공간을 줄이기 위해 압축을 합니다. 데이터를 압축할 때마다 시스템의 DRAM이나 ...
    Date2023.10.02 소식 By낄낄 Reply7 Views1064 file
    Read More
  16. No Image

    일본 정부, 마이크론 EUV 팹 보조금을 대폭 인상

    일본 경제산업부는 마이크론 히로시마 공장의 보조금을 3억 2천만 달러에서 12억 9천만 달러로 대폭 인상했습니다. 마이크론은 1년 전에 36억 1800만 달러를 들여 히로시마 공장을 건설하겠다고 밝혔는데, 물가 상승분을 고려해서 일본 정...
    Date2023.10.02 소식 By낄낄 Reply0 Views529
    Read More
  17. No Image

    라즈베리 파이 5의 여러 테스트

    라즈베리 파이 5의 추가 정보입니다. 라즈베리 파이 5 사양 공개 https://gigglehd.com/gg/14935886 여기에 관련 정보가 많네요. https://www.tomshardware.com/news/live/raspberry-pi-5-launch 3GHz 오버클럭이 가능했습니다. 싱글코어...
    Date2023.10.01 소식 By낄낄 Reply3 Views2730
    Read More
  18. 구 소련의 메인프레임을 30년만에 부팅

    체르노빌에 배포된 하드웨어와 똑같은 구성의 시스템을 30년만에 부팅하는데 성공했습니다. 인텔 8086 프로세서의 복제품이 탑재된 민스크 EC-1841 메인프레임은 8만대만 생산됐고 그 중 일부는 90년대까지 쓰이기도 했습니다. 하지만 체...
    Date2023.10.01 소식 By낄낄 Reply5 Views2805 file
    Read More
  19. NVIDIA가 설명하는 황의 법칙. 10년 동안 GPU AI 처리 성능이 1000배 증가

    NVIDIA는 황의 법칙이라는 말을 밀고 있습니다. 지난 10년 동안 NVIDIA GPU의 AI 처리 성능이 1000배 증가했다면서, 이런 빠른 성장세가 줄어들지 않고 계속될 것이라고 주장합니다. 무어의 법칙 이후로 컴퓨팅 성능의 제공 방식에 구조적...
    Date2023.10.01 소식 By낄낄 Reply6 Views879 file
    Read More
  20. 엔비디아, 'GTC 2024 컨퍼런스 일정'은 2024년 3월 18일로 설정.

      ▶ 엔비디아, GTC(GPU Technology Conference) 2024 컨퍼런스 일정을 설정. - 2024년의 GTC 컨퍼런스 기조 연설 일정 : 2024년 3월 18일 - 장소 : 미국 산호세 - GTC 2024 컨퍼런스의 세부 정보는 비공개 ※ 2024년에는 차세대 '블랙웰(B...
    Date2023.10.01 소식 By블레이더영혼 Reply0 Views604 file
    Read More
목록
Board Pagination Prev 1 ... 95 96 97 98 99 100 101 102 103 104 ... 1078 Next
/ 1078

더함
AMD
한미마이크로닉스
MSI 코리아

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소