tinygrad 신경망 프레임워크를 운영하는 타이니 코퍼레이션이 라데온 RX 7900 XTX 그래픽카드 6개를 12U 케이스에 넣은 타이니막스 시스템을 공개했습니다.
NVIDIA H100과 비교하면 FP16 기준으로 37% 수준의 성능을 내지만 메모리는 80GB에서 96GB로 더 많고, 메모리 대역폭은 3.35TB/s에서 21TB/s로 늘어납니다. 그래픽카드 외에는 에픽 7532 프로세서와 128GB 램, 4개의 WD SN850X 1TB SSD 레이드가 있습니다. 또 H100보다 많이 저렴한 15000달러에 판매합니다.
다만 1500W 전원 두개를 꽂아야 한다면 가정집에서 쓰기엔 조금 부담스러울 것 같네요.