텐서웨이브의 공동 창립자인 Jeff Tatarchuk는 82명의 엔지니어와 AI 전문가에게 물어본 결과, 그 중 절반이 AMD 인스팅트 MI300X GPU를 적극적으로 고려 중이라 말했습니다.
가장 큰 이유는 가용성, 비용, 성능이라네요. NVIDIA가 공급이 부족하고 비싸고 몇몇 스펙은 뒤쳐지기 때문인 것 같네요.
MI300X는 NVIDIA H100보다 메모리 용량과 대역폭, FP8/FP16 성능이 더 높습니다.
참고/링크 | https://twitter.com/jtatarchuk/status/1766140806891762165 |
---|
텐서웨이브의 공동 창립자인 Jeff Tatarchuk는 82명의 엔지니어와 AI 전문가에게 물어본 결과, 그 중 절반이 AMD 인스팅트 MI300X GPU를 적극적으로 고려 중이라 말했습니다.
가장 큰 이유는 가용성, 비용, 성능이라네요. NVIDIA가 공급이 부족하고 비싸고 몇몇 스펙은 뒤쳐지기 때문인 것 같네요.
MI300X는 NVIDIA H100보다 메모리 용량과 대역폭, FP8/FP16 성능이 더 높습니다.