인텔이 아크 알케미스트에서 파이토치 AI를 최적화해 Llama 2 같은 대규모 언어 모델을 실행할 수 있습니다. 다만 14GB 이상의 비디오 메모리가 필요하다고 하니 아크 A770 16GB에서만 된다고 봐야 할 듯 합니다.
파이토치는 메타에서 개발한 오픈소스 LLM 프레임워크로, 모든 하드웨어를 지원하진 않기에 하드웨어 개발사에서 따로 최적화 작업이 필요합니다. 인텔은 2023년 1월에 아크의 XMX 코어를 사용하도록 준비했고 이번에는 FP16 성능을 최적화했습니다.