GPT 대규모 언어 모델 훈련에서 NVIDIA H100과 A100의 성능 비교입니다.
H100은 속도가 2.2~3.3배 가량 빨랐으나, 클라우드 서비스 가격 역시 2.2배 비쌉니다. 그래도 비싼만큼 빨리 작업을 끝낼 수 있기에 결과적으론 이득이란 결론이 나오네요.
참고/링크 | https://www.mosaicml.com/blog/coreweave-nvidia-h100-part-1 |
---|
GPT 대규모 언어 모델 훈련에서 NVIDIA H100과 A100의 성능 비교입니다.
H100은 속도가 2.2~3.3배 가량 빨랐으나, 클라우드 서비스 가격 역시 2.2배 비쌉니다. 그래도 비싼만큼 빨리 작업을 끝낼 수 있기에 결과적으론 이득이란 결론이 나오네요.