Cerebras 시스템의 웨이퍼 스케일 엔진 3입니다. 웨이퍼 한 장으로 칩 한 개를 만들기에 웨이퍼 스케일인데요. 이번에 나온 건 세게에서 가장 빠른 AI 칩이라는 수식어가 붙습니다. 

 

5nm 공정 생산, 4조 개의 트랜지스터, 90만 개의 AI 코어, 125페타플롭스의 AI 성능, 44GB 온 칩 SRAM, 1.5TB부터 1.2PB의 외부 메모리 지원, 24조 개의 매개변수로 AI 모델 훈련, 2048개의 CS-3 시스템으로 클러스터 구성이 가능합니다.

 

Llama 70B를 하루만에 훈련할 수 있고, 사용도 쉬워 GPU에서 10억 개의 매개변수 모델 훈련과 여기에서 1조 개 훈련이 비슷한 수준이라고 설명합니다. 

 

성능은 모르겠고 숫자는 정말 압도적이군요.