유출 정보를 토대로 만든 NVIDIA GH100의 다이어그램

낄낄 https://gigglehd.com/gg/11964544

조회 수 1663 댓글 14

Extra Form
참고/링크	https://twitter.com/Locuza_/status/1505581079381610503

NVIDIA 호퍼 아키텍처를 쓴 첫 GPU인 GH100의 다이어그램입니다. 공식은 아니고 NVIDIA 서버를 해킹해서 나온 자료를 토대로 만든 것입니다.

TSMC 5nm 공정으로 제조, 8개의 GPC 엔진 중 1개에만 3D 그래픽 엔진이 있습니다. 데이터센터용 GPU니 불필요한 기능은 뺐나 봅니다. 그리고 48MB의 L2 캐시가 있는데 이건 GA100과 같습니다.

각각의 클러스터마다 9개의 TPC가 있고, TPC에는 2개의 스트리밍 멀티프로세서가 있습니다. 쿠다 코어의 비율이 변하지 않았다면 144개의 SM, 9216개의 쿠다 코어가 나옵니다.

GH100은 1개의 거대한 다이로 만들어졌지만 이를 2개 이어붙여 MCM 패키징한 GH202가 나온다고 합니다. 물론 이 경우에는 144개의 SM이 다 활성화된건 아니고 15~20% 정도는 꺼져 있을 겁니다.

삭제 요청

TAG •

목록 스크랩

위로 아래로 댓글로 가기

Comments '14'

슬렌네터 Human is just the biological boot loader for A.I. 2022.03.22 02:49

블러핑이 아니였네요
TundraMC 자타공인 암드사랑/GET AMD, GET MAD. Dam/컴푸어 카푸어 그냥푸어/니얼굴사... 2022.03.22 14:04

암드 망했네요
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 14:10

이번에 fp64 연산 지원이라던데, 되게 기대되네요...
T.Volt_45 Into the Unknown, Show Yourself !! // ThunderVolt_45 2022.03.22 14:27

배정밀도 연산은 원래도 되던 거 아니었나요.
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 14:35

FP32 코어를 엮어서 사용하냐 따로 코어가 배정됐냐 차이인데, 이번엔 연산 지원하는 코어를 따로 빼놨습니다. 사실 30여년 전부터 연산 자체는 가능했는데, FP64용 코어가 일반 상용화로 내려온건 이번이 처음이네요.
T.Volt_45 Into the Unknown, Show Yourself !! // ThunderVolt_45 2022.03.22 14:36

그건 몰랐네요. 일반 사용자 모델에서의 배정밀도 성능을 더욱 효과적으로 썰어버리려는 건가...
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 14:36

쿠다 코어 숫자의 절반 정도인데, 보통 배정밀도 코어가 따로 나오면 해당 코어들 연산 속도가 기존 연산 방식의 2배가량 개선되다보니 기대되는게 꽤 큰 편이에요.
류오동 컴알못입니다. 2022.03.22 16:32

원래부터 xx0 칩엔 FP64가 따로 있지 않았던가요. 다이어그램에서도 노란색으로 별도로 표기하고 있고.
아마 FP64+FP32 병렬 실행 아닐까요?
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 16:39

텐서코어, 그러니까 TF 연산으로는 64를 지원했습니다. 그런데 FP64를 연산하라고 하면 TF로 치환해서, 별도의 가공을 따로 해줘야합니다. 입력 데이터 포멧이 달라져요.
류오동 컴알못입니다. 2022.03.22 16:46

그니까 기존엔 일종의 에뮬레이션 비슷한 과정이 들어간다 이런 의민가요?
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 21:28

cuda만의 특별한 연산 과정이라고 부르던데, 사실상 류오동님 생각하신 그대로 맞습니다.
동방의빛 2022.03.22 16:26

러브레이스 두 개가 호퍼인줄 알았는데 그냥 호퍼가 따로 있군요? 그러면 이번 세대에 게임용으로 사용되지는 못하겠군요.
?
windy510 2022.03.22 19:33

A100에서도 tensor core 사용시 fp64 ieee754 규격 준수하였습니다. Hopper에서 기능 확장이 있을수는 있겠지만 처음으로fp64 tensorcore연산을 지원하는것은 아닙니다
ForGoTTen 결제중.... 2022.03.22 19:41

원래 A/V100에서도 FP32:FP64가 2:1 이었죠. Geforce에서나 64:1 이여서.....

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.

Razer Viper Mini 단종, 가짜가 널리 유통 중

[참고] 관련 글 - "포럼/커뮤니티 게시판 카테고리 이름 간소화" https://gigglehd.com/gg/bbs/5237008 https://prod.danawa.com/info/?pcode=10740057 다나와 상품 설명 페이지에 Razer 공식 유통사 웨이코스가 남긴 글입니다. 참고/...

Date2023.10.23 소식 By임시닉네임 Reply7 Views1505

Read More
Logitech G102 LIGHTSYNC 부분변경판 내부 구조

[참고] 관련 글 1 - "포럼/커뮤니티 게시판 카테고리 이름 간소화" https://gigglehd.com/gg/bbs/5237008 관련 글 2 - "Logitech G102 LIGHTSYNC 부분변경판" https://gigglehd.com/gg/hard/14573660 센서만 변경된 것이 아니라 금형 ...

Date2023.10.23 소식 By임시닉네임 Reply2 Views1069

Read More
커스텀 PC 케이스 제작 관련 질문

혹시 커스텀 케이스 제작을 해 보신 분들이 있을까요? mitx 초소형으로 고사양을 만들어보려고 합니다. 제가 곰곰히 생각해보니 이런 안이면 어떨까 합니다. m itx pcie 를 80cm 정도 뽑아서 한바귀 돌아서 , 메인보드를 기...

Date2023.10.22 질문 Bybabozone Reply14 Views878

Read More
i9-14900K 뚜따 후 온도

뚜껑을 따고 코어랑 IHS 높이를 정확히 측정한 다음 잘 긁어내고 그리즐리 서멀을 발라줍니다. 10도 내려갔습니다. 좌우만 눌러주는 기본 프레임을 제거하고 모든 방향에서 균일하게 CPU를 눌러주는 프레임을 장착합니다. 2도 가량...

Date2023.10.22 일반 By유입입니다 Reply8 Views2355

Read More
No Image

인텔 14세대는 도무지 답이 안나오네여;;;;;

14세대의 최대 온도 보고나서 할말을 잃었습니다;;;;; 물론 게임같이 그저 평범하게 쓴다면 120 팬이 3개 들어간 수랭으로도 발열이 잡히긴 하겠지만 랜더링 작업같은 CPU를 갈구는 작업에서는 140 팬이 3개 들어간 대형 라디를 쓰는 수랭...

Date2023.10.22 일반 Bydisc1492 Reply15 Views4366

Read More
PCIe 4.0x16 슬롯용 M2확장카드가 있네요.

기존에 알던 PCIe x4용 확장카드는 저도 하나 쓰고 있는데 x16용 확장카드도 있네요. 근데 이게 의미가 있을까요? 아니면 그냥 모양만 저걸로 해놓은거려나요? 슬롯에 장착하기 용이하게? 아래는 기존에 팔던 x4 슬롯용 확장카...

Date2023.10.22 일반 By아즈텍 Reply19 Views1189

Read More
No Image

젠슨황: 30년 전으로 돌아가면 NVIDIA 안함

젠슨황은 30년 전으로 돌아가 다시 30살이 된다면 NVIDIA를 만들지 않을 거라고 인터뷰에서 말했습니다. NVIDIA를 만드는 건 생각했던 것보다 백만배나 어려웠다면서요. 뭐 근데 성공한 사람들 중에 '다시 태어나도 이 직업을 할거냐...

Date2023.10.22 소식 By낄낄 Reply22 Views2654

Read More
삼성, HBM3E 메모리와 32Gb DDR5 등을 공개

삼성전자가 20일(현지시간) 미국 실리콘밸리에 위치한 맥에너리 컨벤션 센터(McEnery Convention Center)에서 ‘삼성 메모리 테크 데이(Samsung Memory Tech Day) 2023’을 개최하고, 초거대 AI 시대를 주도할 차세대 메모리 솔...

Date2023.10.22 소식 By낄낄 Reply1 Views1108

Read More
No Image

AMD, 중국 직원 15%를 해고?

AMD가 중국에서 근무하는 직원 10~15%를 해고하거라는 소문입니다. 대충 500명 정도입니다. 그 중 상당수는 라데온 테크놀러지 그룹에 소속된 사람들입니다. 정리해고 보상안은 N+4나 N+7이 될 거라고 하는데 이건 잘 모르겠군요. 4개월이...

Date2023.10.22 소식 By낄낄 Reply0 Views1030

Read More
코어 i9-13900H, 베이퍼 채임버 쿨러가 달린 B760 메인보드

Erying의 B760 메인보드입니다. tDP 95W의 코어 i9-13900H 프로세서와 베이퍼 채임버 쿨러가 달려 있습니다. 베이퍼 채임버만으로 쿨링이 되진 않겠고 이 위에 LGA 115x 쿨러는 따로 달아야 합니다. 다른 스펙은 DDR4 3200 듀얼채널, PCIe...

Date2023.10.22 소식 By낄낄 Reply10 Views1219

Read More
No Image

인텔 코어 i3-14100, i5-14600이 긱벤치에 등록

코어 i3-14100 https://browser.geekbench.com/v6/cpu/3144100 코어 i5-14600 https://browser.geekbench.com/v6/cpu/3144307 13세대하고 비교하면 점수가 오르긴 했지만 큰 차이는 아닙니다.

Date2023.10.22 소식 By낄낄 Reply0 Views517

Read More
No Image

인텔, 이스라엘 비난 발언을 이유로 웹 서밋에서 탈퇴

웹 서밋 컨퍼런스의 주최자인 패디 코스그레이브가 이스라엘을 지원하는 서방 국가들을 비난하자, 인텔과 지멘스 AG가 웹 서밋에서 탈퇴하고 여러 회사들도 컨퍼런스에 참여하지 않기로 결정했습니다. 패디 코스그레이브는 사과를 했지만 ...

Date2023.10.22 소식 By낄낄 Reply4 Views1041

Read More
리눅스 드라이버에서 AMD RDNA3 리프레시가 발견

리눅스 그래픽 드라이버인 Mesa 23.3 릴리즈에 RadeonSI Gallium3D의 GFX11.5를 지원하는 코드가 추가됐습니다. RDNA3가 GFX11인데 GFX11.5가 됐다면 완전히 새로운 모델은 아니고 리프레시 모델로 보입니다 새로운 라데온 RX 7000 시리즈...

Date2023.10.22 소식 By낄낄 Reply0 Views448

Read More
TSMC 3분기 수익, 3나노가 6%를 차지

TSMC의 2023년 3분기 수익입니다. 가장 많은 비중을 차지하는 건 5nm, 그 다음은 7nm네요. 최신 공정인 3nm는 6%, 10억 3천만 달러를 차지합니다. TSMC는 3나노 공정의 보급에는 시간이 좀 더 걸릴 것으로 보고 있습니다. 기본 3나노 공정...

Date2023.10.22 소식 By낄낄 Reply0 Views537

Read More
SK하이닉스, ‘OCP 글로벌 서밋 2023’서 AI 혁신 이끌 차세대 메모리 솔루션 선봬

SK하이닉스가 지난 17일부터 사흘간 미국 캘리포니아 산호세에서 열린 ‘OCP 글로벌 서밋 2023(OCP Global Summit 2023, 이하 OCP 서밋)’에 참가해 차세대 메모리 반도체 기술과 제품을 선보였다고 밝혔다. 이 중 엔비디아의 ...

Date2023.10.22 소식 By낄낄 Reply1 Views425

Read More