AMD 라이젠 5 4600G의 내장 그래픽에 16GB 비디오 메모리를 할당해서 AI 연산을 실행했다는 글입니다.
AMD ROCm은 아직 라이젠 APU를 공식 지원하지 않지만 여기에선 스테이블 티퓨전, 패스트챗, 미니GPT-4, 알파카 LoRA, 위스퍼, LLM, LLaMA 등의 여러 AI 연산을 처리할 수 있었습니다.
라이젠 5 4600G는 50단계 512x512 이미지를 만드는데 1분 50초밖에 걸리지 않았습니다. 95달러라는 가격을 생각하면 나쁘지 않은 성능입니다.