AMD 리사 수 CEO가 반도체 컨퍼런스에서 발표하다

 

AMD가 추구하는 목적은 완전한 3D 통합 솔루션입니다. CPU와 GPU, DRAM, NVM(Non-Volatile Memory. 비휘발성 메모리) 등을 모두 하나의 패키지에 통합합니다. 3D 적층 기술을 사용해 칩끼리 적층, 칩 한개 크기의 패키지에 컴퓨터가 필요로하는 모든 것을 포함합니다. 즉 3D 스택으로 최고의 시스템 통합을 제공하는 것이 AMD의 야심입니다.

 

AMD 리사 수 CEO

 

 

AMD의 목표. 3D 시스템 통합의 비전 

 

AMD의 리사 수(President and Chief Executive Officer, AMD)는 미국 샌프란시스코에서 개최된 반도체 학회인 IEDM (IEEE International Electron Devices Meeting)에서 AMD의 기술 비전을 발표했습니다. IEDM은 반도체 장치 기술 학회이기에, 팹리스 반도체 칩 제조업체인 AMD가 기조강연을 하는 일은 매우 드뭅니다. 다만 리사 수 개인적으로는 IEDM Best Student Paper로 IEDM과 관계가 깊습니다.

 

리사 수는 지난 10년 동안 CPU와 GPU의 성능은 서버에서 2.4년 동안 CPU가 2배(SPECInt_rate2006), GPU가 약 2.1년에 2 배(단정밀도 부동 소수점 연산)의 속도로 향상됐다고 설명합니다. 아래 벤치마크는 멀티코어 병렬 처리한 SPECInt_rate인데 코어 수의 증가도 반영하고 있습니다. 또 시스템 레벨에서 서버의 성능/전력도 약 2.4년에 2배의 속도로 향상됐다고 합니다. 즉, 멀티코어 CPU와 GPU의 성능/전력은 지난 10년 동안 1.5~2 년에 2배 향상됐던 시절과 비교하면 상당히 느려졌으나, 그래도 일정한 속도로 발전한 셈입니다.

 

2P 서버 CPU의 정수 연산 성능은 2.4년마다 2배로 성장했습니다. SPECInt_rate2006에서 CPU 코어 수의 증가를 반영한 ​​벤치마크 결과

 

 

GPU의 단정밀도(FP32) 부동 소수점 연산 성능 향상은 2.1년에 2배

 

 

서버 CPU의 시스템 성능/전력 향상은 2.4년에 2배

 

공정 기술만으로는 성능이 향상하지 않음

이를 자세히 보면 지난 10년 동안 공정 기술은 45nm에서 32nm, 20/22nm, 16/14nm로 발전했습니다. 그러나 트랜지스터 밀도와 기술 수준의 전력 효율은 3.6년에 2배씩만 향상됐다고 합니다. 예전에는 프로세스 기술 발전으로 프로세서 성능이 1.5년에 2배의 속도로 향상했었지만, 지난 10년은 그게 되지 않았습니다.

 

 

프로세스 기술 발전으로 트랜지스터 밀도 향상 

 

공정 기술 향상만으로 성능이 높아지는 속도가 크게 떨어졌습니다. 그 상황에서 AMD는 2.4년마다 2배의 속도로 성능을 높였습니다. AMD는 지난 10년 동안 시스템 아키텍처와 소프트웨어 등 다양한 방식으로 성능 차이를 커버했다고 말합니다.

 

AMD의 설명에 의하면 2.4년마다 2배의 성능 향상 중, 반도체 기술로 인한 향상은 CPU가 40%, GPU가 35% 정도라고 합니다. 그럼 나머지 60%는 어떻게 성능을 끌어올린 것일까요? 우선 다이 크기의 확대, TDP(Thermal Design Power)의 상승 등 전력 기술에서의 접근. 그리고 프로세서 마이크로 아키텍처의 개선과 컴파일러 기술의 개량, 전력 관리의 강화입니다. 

 

 

지난 10년 동안 CPU의 성능 향상은 공정 기술이 40%, 나머지는 다른 방법에 의해 이루어졌습니다. 

 

 

지난 10년 간 CPU의 성능 향상

 

서버에서 다이 수를 늘려 성능 향상

 

AMD는 서버 CPU의 TDP가 1년에 7% 이상 늘었다고 말합니다. GPU는 더 큽니다. 사용 전력을 분석하면 컴퓨테이션 외에 다른 비율이 상당히 높습니다. 특히 서버 CPU의 다이 크기가 급격히 늘었습니다. AMD는 MCM(Multi-Chip Module) 기술로 멀티 다이 구성을 시작했거든요. 2010년대부터 AMD의 하이엔드 서버 CPU는 멀티 다이가 되면서 300제곱mm 급 다이 2개를 하나로 패키징했습니다. 더하면 600제곱mm의 다이가 됩니다.

 

 

주황색이 GPU TDP, 파란색이 서버 CPU의 TDP로 모두 늘었습니다.

 

 

서버 CPU의 전력 사용 비율. 컴퓨테이션이 1/3, 다른 유닛이 2/3을 차지합니다.

 

 

서버 CPU 패키지와 GPU의 다이 크기. 서버 CPU는 멀티 다이 구성으로 여러 다이를 합친 값입니다.

 

따라서 AMD는 다이 크기를 확장(멀티 다이 구성)하고 TDP도 높여 프로세스 기술 향상의 둔화를 보완, 성능을 향상시켰습니다. 다이 크기의 확대는 CPU 코어 수의 증가를 의미합니다. 지금은 전력 효율을 유지하면서 CPU 코어의 성능을 높이기가 힘듭니다. 따라서 서버 CPU는 패키지의 CPU 코어 수를 늘리는 방향으로 가고 있습니다. 그 결과 다이 크기가 늘었습니다.

 

 

마이크로 아키텍처와 시스템 아키텍처의 전력 사용량 감소

 

하지만 멀티 다이에 TDP를 올리고 공정 기술을 개선해도 목표로 하는 성능 향상의 60%밖에 채워지지 않습니다. 그럼 나머지 40%의 성능은 어떻게 끌어올릴까요? AMD는 마이크로 아키텍처와 시스템 아키텍처의 확장, 그리고 전력 관리 강화와 컴파일러 최적화에 있다고 설명합니다.

 

아키텍처에선 CPU 코어가 K10에서 불도저, 그리고 젠으로 강화됐습니다. 불도저도 싱글 스레드 성능은 크게 늘진 않았으나 다이와 전력 사용량 대비 성능 효율은 향상됐습니다. GPU에선 GCN(Graphics Core Next)으로 아키텍처를 대폭 바꿔 성능 효율을 개선했습니다. 또 시스템 아키텍처는 주변 기능을 통합해 SoC를 진행시켰습니다.

 

서버 CPU 아키텍처의 성능 성장

전력 제어는 AMD가 지난 10년 동안 크게 강화한 요소입니다. AMD는 다양한 절전 기능을 CPU 코어, GPU 코어, APU(Accelerated Processing Unit) 전체에 도입했습니다. 파워 게이팅과 크리티컬 패스 모니터, 루프 대책 회로, CPU 코어 단위의 전압 제어 등 최근 AMD 개발 리소스 대부분이 절전 기능에 쓰였습니다. 최신 서버 CPU인 에픽은 절전 제어를 통해 전력 소비를 54%까지 줄였다고 합니다.

 

 

에픽의 전력 사용량. 왼쪽은 아무것도 하지 않았을 때, 오른쪽은 전력 제어를 했을 때.

 

프로세스 기술에 의한 성능 향상은 더욱 둔화될 것

이처럼 지난 10년 동안 AMD는 공정 기술의 발전만으 달성하지 못할 성능 향상을, 다이와 TDP의 확장과 마이크로 아키텍처/전력 제어 컴파일러의 개선 등으로 커버했습니다. 2.4년에 2배의 속도로 성능, 성능/전력을 향상했습니다. 그러나 앞으로10년 동안 더욱 어려워질 것이라고 합니다.

 

AMD는 앞으로 10년 간 프로세스 기술에 의한 성능 향상 속도가 더욱 느려질 것이라고 예측합니다. 또한 공정 기술이 발전함에 따라 반도체 칩의 제조 비용도 급격히 상승하는 것도 큰 문제라고 지적합니다 .발전이 느려지면서 제조 비용이 늘어나는 어려운 상황입니다. 앞으로 10년 동안 2.4년에 2배, 그 이상의 성능 향상을 계속하려면 프로세스 기술이 공헌하는 수준은 30% 정도밖에 안 된다는 게 AMD의 견해입니다. 

 

 

프로세스가 미세화될수록 칩 제조 비용이 급격히 상승합니다. 7nm는 14nm의 2배, 45nm의 4배 수준이 필요합니다.

 

 

프로세스 기술에 의한 성능 향상이 더욱 느려질 것

 

 

지난 10년 동안 했던 것과 비슷한 수준으로 성능을 향상시키기 위해서 새로운 접근법이 필요하다는 게 AMD의 관점

 

 

현재 HBM의 구현 방식과 같은 2.5D가 아닌 전체의 3D 적층이 목표 

 

그럼 이런 상황에서 지난 10년간 발전했던 만큼의 성능 향상을 어떻게 할 수 있을까요? 다이 크기와 TDP의 확장은 이제 한계에 도달했으며, 마이크로 아키텍처와 전력 제어도 지난 10년 동안의 향상을 기대하기란 어렵습니다. 

 

AMD는 이 상황을 타개하기 위해 3D 스태킹 멀티 칩 아키텍처와 메모리의 온 패키지 통합을 도입한다고 설명합니다. CPU 다이, GPU 다이, DRAM 다이, 비휘발성 메모리 다이 등 모든 것을 3D 적층으로 통합합니다. 즉 CPU 패키지 안에 컴퓨터 시스템 전체를 적층하는 것입니다. 이런 방식으로 성능 향상을 계속해 나갈 것이라 봅니다.

 

재미있는 건 인텔도 2.5D지만 적층형 시스템 패키지가 앞으로 CPU의 목표가 될 것이라 본다는 겁니다. PC 시스템 칩의 두 회사가 패키지 기술 혁신에 시스템 통합을 도입하려 합니다. 

 

 

인텔과 AMD의 목표. 인텔은 더 가까운 장래에 2.5D로, AMD는 좀 더 먼 미래에 3D를 도입합니다.