컴퓨터 / 하드웨어
:
컴퓨터와 하드웨어, 주변기기에 관련된 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.
-
Read MoreNo Image
AMD 인스팅트 MI300X 도입을 고려 중인 AI 업계
텐서웨이브의 공동 창립자인 Jeff Tatarchuk는 82명의 엔지니어와 AI 전문가에게 물어본 결과, 그 중 절반이 AMD 인스팅트 MI300X GPU를 적극적으로 고려 중이라 말했습니다. 가장 큰 이유는 가용성, 비용, 성능이라네요. NVIDIA가 공급이... -
Read More
AMD MI300 HBM3e와 MI400이 나올 예정
AMD가 MI300 AI 가속기에 HBM3e 메모리를 조합한 리프레시 버전을 출시할 거라고 합니다. HBM3에서 굳이 e를 붙인 모델을 따로 내는 걸 보면, 메모리가 성능에 미치는 영향이 상당한가 봅니다. 또 MI400은 내년에 나올 예정입니다. -
Read MoreNo Image
AMD 인스팅트 MI300X의 예상 가격
마이크로소프트가 AMD 인스팅트 MI300X 192GB를 1개당 10,000달러에 구입했다는 썰이 있습니다. 마이크로소프트의 데이터센터 부서는 MI300X의 1티어 구매자이며, GPT-4를 이걸로 구동하고 있습니다. MS가 아닌 다른 회사들은 15,000달러... -
Read More
AMD 인스팅트 MI300X AI GPU 납품 시작
AMD 인스팅트 MI300X AI GPU가 LaminiAI의 LLM에서 가동을 시작했습니다. 8개의 MI300X가 작동 중인 사진을 올렸네요. LaminiAI는 2023년에 MI300을 도입했으니 MI300X를 쓰는 게 특별한 일은 아닙니다. -
Read More
AMD: H100이 MI300X보다 성능이 높다는 건 거짓이다
NVIDIA, H100이 AMD MI300X보다 2배 빠르다고 주장 https://gigglehd.com/gg/15299956 이걸 AMD가 다시 반박했습니다. 우선 AMD는 NVIDIA가 추론 워크로드 세트를 선별해서 사용했으며, 오픈 소스이자 보급율이 높은 vLLM 대신 H100에 최... -
Read More
AMD 인스팅트 MI300 스펙 공개
AMD는 올해 6월에 인스팅트 MI300 시리즈를 발표했습니다. 그 때는 스펙이나 성능은 언급하지 않았는데요. 이번에 공개했습니다. 인스팅트 MI300 시리즈는 GPU만 있는 MI300A, CPU+GPU인 MI300X의 두 가지가 있습니다. 둘 다 CDNA3 아키텍... -
Read MoreNo Image
AMD의 MI300C AI 가속기가 등장
AMD의 MI300 시리즈는 A와 X가 정식으로 발표됐습니다. 그러나 그게 다는 아닙니다. 리눅스 패치에 MI300C가 추가됐거든요. 이건 HBM을 탑재한 모델이거나 중국 시장을 위해 성능을 이룹 제한한 모델일 가능성이 있습니다. -
Read More
AMD 인스팅트 MI300A/MI300X의 패키지 구조
AMD는 인스팅트 MI300A와 MI300X를 발표했지만 발표 당시에 그 상세 스펙은 공개하지 않았습니다. 이번에는 패키지가 어떻게 됐는지가 나왔네요. 이게 MI300X의 실물 사진이고요. MI300X는 이렇게 구성됐을 것으로 보입니다. 여기에서 주... -
Read More
AMD 인스팅트 MI300. 최초의 데이터센터 APU
AMD가 인스팅트 MI300 APU를 공개했습니다. 세계 최초의 데이터센터 APU라고 주장하는 제품입니다. 3D 다이 스택을 써서 CPU와 GPU 코어를 최대 128GB의 HBM3 메모리와 함께 패키징했습니다. 그래서 별도의 시스템 메모리를 장착할 필요... -
Read MoreNo Image
AMD 인스팅트 MI300 APU가 엘 캐피탄 엑사스케일 슈퍼컴퓨터에 탑재
AMD 인스팅트 MI300 APU가 엘 캐피탄 엑사스케일 슈퍼컴퓨터에 탑재됩니다. AMD 인스팅트 MI300 APU는 젠4 x86-64 CPU 코어, CDNA3 컴퓨팅 프로세서, 대용량 캐시, HBM 메모리가 탑재된 APU입니다. 2.5D와 3D 칩렛을 패키징한 멀티 칩 모... -
Read More
AMD 인스팅트 MI300, 젠4 CPU와 CDNA3 GPU 조합의 1세대 엑사스케일 APU?
AMD 인스팅트 MI300에 대한 소문입니다. AMD가 데이터센터에 출시하는 첫 APU가 될 거라고 합니다. 여기에는 젠4 CPU와 CDNA3 GPU가 들어가며 그 성능은 엑사스케일 수준이라ㅗ 합니다. 소켓은 SH5라는데 지금까지 이 이름이 나온 적은 ... -
Read More
AMD 인스팅트 MI300, 8개 다이와 3D 스택 사용
AMD 인스팅트 MI300의 소문입니다. 최소 2개에서 최대 8개의 컴퓨팅 다이가 있고, 그 아래에 I/O 타일을 적층하는 3D 적층 구조가 특징입니다. 주변에는 HBM3 메모리가 있습니다. 컴퓨팅 다이는 5nm 공정으로 만들고 I/O 다이는 6nm 공정... -
Read MoreNo Image
AMD 인스팅트 MI300, 엑사스케일 APU 모드 제공?
AMD 인스팅트 MI300가 사용하는 SH5라는 소켓이 발견됐습니다.이 SH4는 젠4가 사용하는 소켓으로 보이며, MI300 가속기에는 젠4 CPU 칩렛이 함께 탑재될 가능성이 있습니다. 일종의 고성능 APU인 셈이죠. AMD는 예전에 엑사스케일 성능의 ... -
Read MoreNo Image
AMD 인스팅트 MI300, 4개의 칩렛 탑재?
AMD 인스팅트 MI300이 4개의 GCD(그래픽 컴플렉스 다이)를 탑재한다는 소문입니다. MI300은 알데바란(CDNA2) 이후에 나오는 CDNA GPU니까 아직 먼 이야기입니다.
