AMD는 최근 AI 애플리케이션을 활용하는 사용자가 증가함에 따라, 라이젠 AI(Ryzen AI) PC 또는 AMD 라데온(AMD Radeon) 그래픽 카드에서 대규모 언어 모델(LLM) 기반 AI 챗봇을 다운로드하고 실행하는 몇 가지 단계별 가이드를 공유하고자 합니다.
이는, 검색 증강 생성(Retrieval Augmented Generation)을 통해 LLM 컨텍스트를 제공 및 강화하고, 로컬 LLM를 활용한 코딩을 지원하기 위한 것입니다.
AI 애플리케이션을 로컬에서 실행할 경우, 데이터가 AI PC에 비공개로 유지되고 인터넷 연결 없이 작업할 수 있는 장점이 있습니다.