유출 정보를 토대로 만든 NVIDIA GH100의 다이어그램

낄낄 https://gigglehd.com/gg/11964544

조회 수 1664 댓글 14

Extra Form
참고/링크	https://twitter.com/Locuza_/status/1505581079381610503

NVIDIA 호퍼 아키텍처를 쓴 첫 GPU인 GH100의 다이어그램입니다. 공식은 아니고 NVIDIA 서버를 해킹해서 나온 자료를 토대로 만든 것입니다.

TSMC 5nm 공정으로 제조, 8개의 GPC 엔진 중 1개에만 3D 그래픽 엔진이 있습니다. 데이터센터용 GPU니 불필요한 기능은 뺐나 봅니다. 그리고 48MB의 L2 캐시가 있는데 이건 GA100과 같습니다.

각각의 클러스터마다 9개의 TPC가 있고, TPC에는 2개의 스트리밍 멀티프로세서가 있습니다. 쿠다 코어의 비율이 변하지 않았다면 144개의 SM, 9216개의 쿠다 코어가 나옵니다.

GH100은 1개의 거대한 다이로 만들어졌지만 이를 2개 이어붙여 MCM 패키징한 GH202가 나온다고 합니다. 물론 이 경우에는 144개의 SM이 다 활성화된건 아니고 15~20% 정도는 꺼져 있을 겁니다.

삭제 요청

TAG •

목록 스크랩

위로 아래로 댓글로 가기

Comments '14'

슬렌네터 Human is just the biological boot loader for A.I. 2022.03.22 02:49

블러핑이 아니였네요
TundraMC 자타공인 암드사랑/GET AMD, GET MAD. Dam/컴푸어 카푸어 그냥푸어/니얼굴사... 2022.03.22 14:04

암드 망했네요
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 14:10

이번에 fp64 연산 지원이라던데, 되게 기대되네요...
T.Volt_45 Into the Unknown, Show Yourself !! // ThunderVolt_45 2022.03.22 14:27

배정밀도 연산은 원래도 되던 거 아니었나요.
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 14:35

FP32 코어를 엮어서 사용하냐 따로 코어가 배정됐냐 차이인데, 이번엔 연산 지원하는 코어를 따로 빼놨습니다. 사실 30여년 전부터 연산 자체는 가능했는데, FP64용 코어가 일반 상용화로 내려온건 이번이 처음이네요.
T.Volt_45 Into the Unknown, Show Yourself !! // ThunderVolt_45 2022.03.22 14:36

그건 몰랐네요. 일반 사용자 모델에서의 배정밀도 성능을 더욱 효과적으로 썰어버리려는 건가...
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 14:36

쿠다 코어 숫자의 절반 정도인데, 보통 배정밀도 코어가 따로 나오면 해당 코어들 연산 속도가 기존 연산 방식의 2배가량 개선되다보니 기대되는게 꽤 큰 편이에요.
류오동 컴알못입니다. 2022.03.22 16:32

원래부터 xx0 칩엔 FP64가 따로 있지 않았던가요. 다이어그램에서도 노란색으로 별도로 표기하고 있고.
아마 FP64+FP32 병렬 실행 아닐까요?
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 16:39

텐서코어, 그러니까 TF 연산으로는 64를 지원했습니다. 그런데 FP64를 연산하라고 하면 TF로 치환해서, 별도의 가공을 따로 해줘야합니다. 입력 데이터 포멧이 달라져요.
류오동 컴알못입니다. 2022.03.22 16:46

그니까 기존엔 일종의 에뮬레이션 비슷한 과정이 들어간다 이런 의민가요?
360ghz case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2022.03.22 21:28

cuda만의 특별한 연산 과정이라고 부르던데, 사실상 류오동님 생각하신 그대로 맞습니다.
동방의빛 2022.03.22 16:26

러브레이스 두 개가 호퍼인줄 알았는데 그냥 호퍼가 따로 있군요? 그러면 이번 세대에 게임용으로 사용되지는 못하겠군요.
?
windy510 2022.03.22 19:33

A100에서도 tensor core 사용시 fp64 ieee754 규격 준수하였습니다. Hopper에서 기능 확장이 있을수는 있겠지만 처음으로fp64 tensorcore연산을 지원하는것은 아닙니다
ForGoTTen 결제중.... 2022.03.22 19:41

원래 A/V100에서도 FP32:FP64가 2:1 이었죠. Geforce에서나 64:1 이여서.....

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.

No Image

팻 겔싱어 CEO가 꼽는 인텔의 가장 큰 실수 3가지

인텔의 팻 겔싱어 CEO는 인텔의 가장 큰 실수로 스마트폰 사업 실패, AI 기반 GPU 개발 취소, 훌륭한 파운드리 구축을 꼽았습니다. 인텔은 2008년에 아톰을 스마트폰 시장에 팔았지만 큰 성과를 내지 못하고 2016년에 스마트폰 사업을 접...

Date2023.11.05 소식 By낄낄 Reply18 Views2783

Read More
ASML, 2025년까지 중국에 600대의 DUV 설비를 납품

ASML의 글로벌 부사장이자 중국 사장인 Shen Bo는 2025년 말까지 중국에 600대의 DUV 장비를 납품한다고 밝혔습니다. 지금은 1400대가 설치되어 있다네요. ASML의 전체 매출 중 46%가 중국에서 나오며, 2023년 3분기 매출은 이전 분기보다...

Date2023.11.05 소식 By낄낄 Reply0 Views888

Read More
NVIDIA, A800 40GB 액티브를 전세계에 판매

NVIDIA가 A800 40GB 액티브를 전세계에 판매한다고 발표했습니다. 원래 중국 시장에 판매하기 위해 스펙을 낮춘 모델인데, 미국의 새로운 규제로 인해 고성능 칩을 아예 팔 수 없게 되면서 남은 재고를 이렇게 처리하는 듯 합니다. 그래...

Date2023.11.05 소식 By낄낄 Reply0 Views817

Read More
HDMI 리타이머가 달린 지포스 RTX 4090

갤럭시 지포스 RTX 4090 20주년 기념 한정판입니다. 그래픽카드 최초로 HDMI 리타이머 칩이 달려 있어서 장거리 전송이 가능합니다. 긴 HDMI 케이블을 연결할 수 있다는 소리죠. 구체적으로는 HDMI 2.1 12Gbps 리타이머 칩인 Parade PS841...

Date2023.11.05 소식 By낄낄 Reply4 Views1119

Read More
라데온 RX 7900M의 타임 스파이 성능

라데온 RX 7900M의 타임 스파이 점수입니다. 라이젠 7945H가 탑재된 노트북에서 타임스파이 18404점, 그래픽 19743점이 나왔는데요. 지포스 RTX 4080이 18923점이 나오니까 비슷한 수준이네요.

Date2023.11.05 소식 By낄낄 Reply1 Views618

Read More
지포스 RTX 4090 Ti의 쿼드슬롯 브라켓이 이베이에서 판매 중

지포스 RTX 4090 Ti의 쿼드슬롯 브라켓이 이베이에서 판매 중입니다. 가격은 24.8달러입니다. 이 쿼드슬롯 쿨러가 유출된지도 꽤 됐는데 제품은 아직도 안 나오고 있군요.

Date2023.11.05 소식 By낄낄 Reply0 Views561

Read More
No Image

애플, M3 프로세서 테이프 아웃에 10억 달러를 사용

애플이 3개의 M3 시리즈를 설계하고 테이프 아웃하는데 10억 달러를 썼을거란 분석이 나왔습니다. 이렇게 큰 돈을 쓸 수 있는 회사는 많지 않을 거라고 하네요. M3는 250억, M3 프로는 370억, 그리고 M3 맥스는 920억 개에 달하는 트랜지...

Date2023.11.05 소식 By낄낄 Reply0 Views747

Read More
삼성 3/4nm 노드, 2024년 하반기에 양산

삼성이 2024년 하반기에 3nm 공정(SF3)과 기존 4nm 공정의 고성능 버전인 SF4X를 양산할 예정이라고 밝혔습니다. SF3는 기존 SF3E를 업그레이드한 것입니다. 가상화폐 채굴 칩을 만드는데만 썼지요. 셀 종류는 유지하면서 GAA 트랜지스터...

Date2023.11.05 소식 By낄낄 Reply0 Views671

Read More
No Image

YMTC, 미국 규제에 대응하기 위해 70억 달러를 들여 장비 구입

YMTC가 미국의 블랙리스트에 오른 후, 70억 달러를 들여 새 장비를 구입했다고 합니다. 또 추가로 투자를 해서 규제에 맞서겠다고 합니다.

Date2023.11.05 소식 By낄낄 Reply0 Views390

Read More
브라더, 종이 절단 기능을 갖춘 5in1 컬러 잉크젯 프린터

브라더 MFC-J1800DW 프린트 앤 컷 올인원 컬러 잉크젯 프린터입니다. 종이를 복잡한 형태로 잘라주는 것까지는 불가능하고 절반으로 잘라줍니다. 17ppm 흑백, 16.5ppm 컬러 인쇄, 15장 용지함, 인쇄/복사/스캔/팩스 가능, WiFi나 USB로 연...

Date2023.11.04 소식 By낄낄 Reply12 Views1961

Read More
로지텍G G303 SHROUD 에디션 구입

대충찍어서 초점이 나갔네요; 기글에서 보고 일렉트로마트 가서 구입했네요. 견본이 있어서 잡아보니 확실히 유선 G302랑은 다른 물건이긴 한데, 이만큼 특이한 물건도 없고, 가격도 세일가에 차타고온게 아까워서 마우스 구매 했네요....

Date2023.11.04 일반 ByM16 Reply6 Views553

Read More
인텔 코어 7 150U. Non 울트라 모델도 있음

인텔의 모바일 프로세서는 3가지 라인업이 있습니다. 코어 100 울트라: 메테오레이크 H/U. 코어 9 185H 같은거. 코어 100: 랩터레이크-U 리프레시. 코어 7 150U 같은거. 코어 HX 14세대: 랩터레이크-HX 리프레시. 코어 i9-14900HX 같은거....

Date2023.11.04 소식 By낄낄 Reply5 Views868

Read More
제온 W-2500 HEDT, 사파이어 래피드 리프레시의 스펙 유출

제온 W-2500 HEDT, 사파이어 래피드 리프레시의 스펙이 유출됐습니다. 최고 26코어 4.8GHz의 W7-2595X가 추가됩니다. 코어가 2개 늘어나면서 L3 캐시도 늘어나 48.75MB가 됩니다. TDP도 25W 늘어난 250W입니다. 이것도 리프레시가 나오는...

Date2023.11.04 소식 By낄낄 Reply4 Views408

Read More
기가 바이트 - z590 Vision D - z690 Aero G

* 아끼면 똥 된다. 묵혀 두었던 거 꺼내서 먼지 털고 곰팡이 슬었나 확인 개봉. 박스 화이트 감성 ??? 때문에 질렀던 보드 입니다. * 매달 쌓여 가는 보드가 넘 많네요. 당분간 지름 금지. * ITX 손에 쥘 때 마다 느...

Date2023.11.04 일반 ByZ80 Reply2 Views376

Read More
No Image

지포스 RTX 40 슈퍼 GPU의 전력 관련 소문

지포스 RTX 4080 슈퍼와 4070 Ti 슈퍼는 전력 스펙이 변하지 않았다고 합니다. 따라서 4080 슈퍼는 320W, 4070 Ti는 285W가 됩니다. 4070 슈퍼는 전력이 20W 올라서 220W가 된다고 합니다.

Date2023.11.04 소식 By낄낄 Reply2 Views604

Read More