Cerebras 시스템은 사람의 뇌에 존재하는 100조개의 시냅스를 넘어서는 120조개의 매개변수 AI 모델을 제공하는 단일 시스템을 개발, 세계 최초로 두뇌 규모의 AI 솔루션을 제공한다고 발표했습니다. AI 작업에서 가장 많이 쓰는 GPU 클러스터는 최대 1조개의 매개변수를 쓰는 것과 대조적이죠.

 

Cerebras CS-2는 46,225제곱mm의 다이, 2조 6천억개의 트랜지스터, 850,000개의 AI 코어, 7nm 공정으로 제조된 세계에서 가장 큰 프로세서입니다. 웨이퍼 한 장에서 하나의 칩이 나오기에 웨이퍼스케일 프로세서라고도 하지요. 이걸 192개 사용해 1억 6200만 개의 AI 코어를 제공합니다. 

 

모델 매개변수를 메모리X 캐비닛에 저장하고 AI 모델은 온칩에서 실행해 더 큰 AI 모델을 실행하는 방법을 사용합니다. 또 최적화된 패브릭을 통해 태라비트 수준의 대역폭을 제공합니다. 메모리 용량은 4TB부터 최대 2.4PB며 DRAM과 낸드 플래시를 함께 사용합니다. 

 

이런 걸 아무나 쓰진 못하겠지만 어쨌건 기술의 발전이긴 하지요.