코어 울트라나 라이젠 7000/8000 시리즈 보바일 프로세서/8000G 데스크탑 프로세서에는 AI 전용 처리 유닛인 NPU가 탑재됩니다.
AMD는 Llama 2나 Mistral Instruct 7B 같은 AI를 로컬에서 처리할 경우 인텔 코어 울트라 7 155H(28W)보다 라이젠 7 7840U(15W)가 훨씬 더 빠르다고 주장합니다.
Llama 2는 메타의 최신 LLM이고 Mistral Instruct 7B는 메타와 딥마인드에서 일했던 개발자가 만든 73억 매개변수를 지닌 LLM입니다.
NPU 자체의 성능도 영향을 줬겠지만 젠4 코어가 AVX512와 VNNI 가속을 제공하기에 더 높은 성능을 낼 수 있는 것으로 보입니다.
살다살다 둘이 역전되는 케이스를 보긴 하네요 아포칼립스...