컴퓨터 / 하드웨어
:
컴퓨터와 하드웨어, 주변기기에 관련된 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.
-
Read More
Lamptron, 불법 소프트웨어를 쓰다가 적발
Lamptron 하드웨어 모니터는 AIDA64를 번들로 제공하는데요. 이게 합법적인 키를 구매해서 배포하는 게 아니라 키젠 등을 써서 불법적으로 생성한 거라고 하네요. 이 회사는 2년 전에 리셀러로 등록하고 AIDA64 익스트림을 한번 주문한 ... -
Read More
메타, MTIA AI 가속기 발표
메타가 MTIA AI 가속기를 발표했습니다. 메타의 2세대 AI 가속기로 TSMC 5nm 공정, 클럭 1.35GHz입니다. 1세대가 TDp 25W인데 이번에는 90W로 늘었습니다. BLAS(Basic Linear Algebra Subprograms) 처리에서 행렬 곱셈, 벡터, SIMD를 연산... -
Read MoreNo Image
(루머) AI 확보를 위해 CPU에서 캐시 용량을 줄였다?
아난드텍 포럼에 올라온 글입니다. AMD 스트릭스 포인트는 원래 대용량의 시스템 레벨 캐시가 탑재되고 젠5와 RDNA3+의 성능이 크게 향상될 계획이었으나, AI를 위한 XDNA2 NPU를 넣기 위해 CPU/GPU는 줄였다고 합니다. https://forums.an... -
Read More
인텔, 루나레이크의 AI 성능은 메테오레이크보다 3배 빠르다
인텔은 코드네임 루나레이크, 코어 울트라 200V 시리즈의 세부 정보를 발표했습니다. 여기에 탑재된 NPU의 AI 성능은 메테오레이크의 3배에 달한다고 합니다. CPU는 라이온 코브 P코어와 스카이몬트 E 코어로 구성됩니다. 그리고 GPU는 X... -
Read More
M.2 슬롯에 장착하는 40TOPS 짜리 AI 가속기
Hailo의 Hailo-10H M.2입니다. M.2 슬롯에 장착하는 생성현 AI 가속기로 최고 40TOPS의 성능을 제공합니다. 다양한 소프트웨어 지원, M.2 2242/2280 Key M, PCIe 3.0 x4, 8GB LPDDR4 탑재, 윈도우에서 텐서플로우와 파이토치, ONNX 등을 ... -
Read More
NVIDIA H200, AI 벤치마크에서 최고의 성능 차지
NVIDIA는 AI 처리 성능 벤치마크인 MLPerf Inference v4.0에서 NVIDIA H200의 점수를 공개했습니다. 이전 세대인 H100보다 추론 성능이 1.45배가 올랐습니다. H200은 호퍼 아키텍처에 HBM3e 메모리 조합으로 4.8TB/s 대역폭에 141GB 메모... -
Read MoreNo Image
퀄컴, 인텔, 구글이 손잡고 원API를 내세워 쿠다를 공격
퀄컴, 인텔, 구글이 AI 시장에서 NVIDIA의 CUDA 독점을 몰아내기 위해 전략적인 연합을 결성했다고 합니다. 인텔의 oneAPI 플랫폼을 사용하겠다네요. 어차피 자사 제품에서 CUDA는 못 쓰고, 그럴려면 다른 대안이 필요할텐데 인텔의 플랫... -
Read More
브로드컴이 공개한 거대한 AI 칩
브로드컴이 공개한 거대한 AI 칩입니다. CoWoS 패키징과 래티클의 한계(858제곱mm)에 가까운 멀티 칩렛 ㅍㅍ로세서 되겠습니다. 2개의 XPU 컴퓨팅 유닛이 중앙에 있고, 양 옆에는 HBM 메모리가 있습니다. -
Read MoreNo Image
젠슨 황의 AI 업계 예측
젠슨황은 AI가 그럴싸하지만 터무니없는 거짓말을 늘어놓는 AI 환각 현상을 해결할 수 있다고 말했습니다. 잘 연구되고 정확한 데이터를 공급하는 것이 중요하다고 밝혔습니다. 또 인공 일반 지능(강 인공 지능)이 5년밖에 남지 않았다는 ... -
Read More
AMD, 로컬 AI 처리에서 자사 프로세서가 더 빠르다고 주장
코어 울트라나 라이젠 7000/8000 시리즈 보바일 프로세서/8000G 데스크탑 프로세서에는 AI 전용 처리 유닛인 NPU가 탑재됩니다. AMD는 Llama 2나 Mistral Instruct 7B 같은 AI를 로컬에서 처리할 경우 인텔 코어 울트라 7 155H(28W)보다 ... -
Read More
Tenstorrent의 AI용 PCie 확장 카드 판매 개시
Tenstorrent의 AI용 PCie 확장 카드인 Grayskull Dev Kit의 판매가 시작됐습니다. 추론 전용 보급형 하드웨어로 TT-Buda라는 하향식 접근법, TT-metalium이라는 상향식 접근법 소프트웨어를 모두 사용할 수 있습니다. 지원 모델은 자연 언... -
Read More
인텔 가우디 2, 스테이블 디퓨전에서 NVIDIA H100보다 55% 높은 성능
스테이빌리티 AI가 NVIDIA H100 호퍼 80GB, A100 암페어 80GB, 인텔 가우디 2 96GB에서 스테이블 디퓨전 3의 성능을 비교했습니다. NVIDIA H100은 슈퍼 스칼라 쿠다 프로세서에 텐서 코어를 조합했지만 가운디 2는 생성 AI와 LLM 가속을 ... -
Read More
구글, AI 추론은 GPU가 아닌 CPU가 주도한다
구글은 자신들의 클라우드 서비스를 분석한 결과, AI/ML 추론 워크로드에서는 여전히 CPU를 가장 많이 쓴다고 밝혔습니다. AI는 훈련과 추론의 두 가지로 나뉩니다. 훈련은 계속해서 확장되는 AI 모델을 커버하기 위해 방대한 메모리 용량... -
Read More
Groq의 LPU 추론 엔진. GPU보다 빠름
Groq의 LPU 추론 엔진이 탑재된 카드입니다. GPU보다 빠르게 LLM 대규모 언어 모델을 처리하도록 설계됐습니다. 오직 LLM에만 초점을 맞췄기에 효율도 높다고 하네요. 1개의 단어당 필요한 계산 시간을 줄이고 텍스트 시퀸스를 빠르게 생... -
Read More
TinyBox, 라데온 RX 7900 XTX를 쓴 AI 시스템
tinygrad 신경망 프레임워크를 운영하는 타이니 코퍼레이션이 라데온 RX 7900 XTX 그래픽카드 6개를 12U 케이스에 넣은 타이니막스 시스템을 공개했습니다. NVIDIA H100과 비교하면 FP16 기준으로 37% 수준의 성능을 내지만 메모리는 80GB... -
Read MoreNo Image
NVIDIA, 경쟁사 칩의 구입을 막기 위해 배송을 지연시킨다?
NVIDIA H100 AI의 공급이 늘어나면서 구매자들이 이걸 되팔이하는 사례가 있다고 합니다. 여기까지 보면 요새 GPU 공급이 나아진 것처럼 보이지만요. https://www.theinformation.com/briefings/nvidia-gpu-buyers-offload-chips-as-suppl... -
Read MoreNo Image
AI, NVIDIA, 반도체 관련 소식 모음
NVIDIA는 중국 시장을 위해 2가지 AI 칩을 준비하고 있습니다. 둘 다 허가가 필요 없이 규정을 준수하는 제품이며, 현재 셈플을 제공 중입니다. https://www.reuters.com/technology/nvidia-has-begun-sampling-two-new-ai-chips-china-ma... -
Read MoreNo Image
삼성 'AI 두뇌' 차세대 칩 개발 착수
20일 산업계에 따르면 삼성전자는 AGI 전용 반도체를 만들기 위해 최근 미국 실리콘밸리에 AGI 반도체 개발 조직을 신설했다. 이 조직의 리더는 구글의 텐서처리장치(TPU) 개발자 출신인 우동혁 박사(SVP)가 맡는다. 그는 구글에서 TPU 플... -
Read MoreNo Image
영국 그래프코어, 매각 검토 중
영국의 AI 프로세서 개발사인 그래프코어가 자금 조달에 어려움을 겪으면서 5억 달러에 인수할 대상을 찾고 있습니다. 요새 투자를 받아 직접 AI 칩을 만든다는 소문이 자자한 Arm, 오픈AI, 소프트뱅크 등이 인수 대상으로 거론되고 있으... -
Read MoreNo Image
손 마사요시, AI 칩 회사 설립을 위해 1000억 달러를 투자할 계획
소프트뱅크의 창업자인 손 마사요시가 NVIDIA와 경쟁할 AI 칩 회사인 프로젝트 이자나기를 위해 1000억 달러를 투자할 계획이라고 합니다. 이는 소프트뱅크 산하의 Arm을 보완하는 것이 목표지만, Arm의 ISA를 사용하는 것인지 Arm과 관게...
