NVIDIA는 강력한 AI 연산 프로세서인 호퍼 GPU를 설계할 때 AI를 써서 최적화했습니다. 

관심 있으신 분은 전체 문서를 보세요. https://arxiv.org/pdf/2205.07000.pdf

 

 

NVIDIA GPU의 대부분은 EDA(Electronic Design Automation)를 써서 설계하지만 PrefixRL 기법의 AI를 적용해 접두사 회로를 최적화했습니다. 그 결과 성능은 높아지고 면적은 줄어들고 전력 사용량 역시 감소했습니다. 당장 위의 다이 이미지만 봐도 칩이 줄었음을 알 수 있습니다.

 

로직 회로는 다양한 논리 게이트와 이를 연결하는 네트워크로 구성됩니다. 잘 설계된 회로는 작고, 빠르고, 전력 사용량이 낮습니다. NVIDIA는 회로의 면적이 늘어나면 지연 시간이 길어지면서 성능에 영향을 주고, 또 전력 사용량이 늘어난다고 파악했습니다. 그래서 회로 규모를 가급적 줄이길 원했습니다. 

 

NVIDIA PrefixRL는 논리 게이트와 와이어로 구성된 회로를 설계할 때, 게이트 크기를 조정하고 버퍼를 넣어 최적화 작업을 진행합니다. 그리고 로직이 정상 작동하면서 크기가 줄어들 수 있는 방법을 시도하며 최적화를 더합니다. 이 과정은 매우 많은 양의 계산이 필요하지만 NVIDIA는 자체 분산 강화 학습 플랫폼인 랩터를 개발해서 작업을 나눠 수행했습니다.