AMD가 라이젠 AI 프로세서에 탑재된 NPU에서 로컬 LLM을 실행하는 오픈소스 프로젝트인 GAIA 를 발표했습니다.
출처에 가면 설치 방법과 사용 방법을 소개하고 있습니다. 모든 시스템에서 쓸 수 있는 버전과 라이젠 AI 프로세서의 NPU와 내장 그래픽을 활용하는 하이브리드 인스톨러가 있습니다.
인터넷 / 소프트웨어
:
윈도우즈, 리눅스, 기타 운영체제, 각종 어플리케이션, 프로그램, 소프트웨어, 인터넷, 인터넷 서비스에 대한 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.
소식
2025.03.23 20:34
라이젠 AI NPU에서 로컬 LLM을 실행하는 오픈소스 프로젝트, GAIA
일부 사용자 구글 지도 타임라인 기능 오류 발생
-
Colorful 2025.03.23 21:11
-
써먹을 소프트웨어가 부재한게 아쉬웠는데 뭔가 나오긴 나오는군요 -
오픈소스(개발은 니네가)
엔비디아였다면 런칭할때 같이 나왔겠죠 -
360Ghz
2025.03.24 08:57
근데 마냥 런칭 때 같이 내기도 힘든 것이 젠5 런칭 때 이 친구를 쓸 NPU가 들어간 모델은 너무 나중에 나왔습니다. 정확힌 유저도 없는 상태에서 후원 잘 안돌리는 AMD라 관리가 제대로 되긴 했을지.. -
엔비디아였다면 오픈소스 자체를 안 하지 않을까요? -
엔비디아면 완성도가 차원이 다른데 오픈소스 해달라는 이야기도 안나오지 싶어요
DLSS 오픈소스 해달라고 하진 않죠 -
쓰는 쪽에서야 좋은거 나눠 쓰자고 해달라는 말 계속 하죠. DLSS가 됐건, 쿠다가 됐건.
엔비디아가 들어줄 이유가 없을 뿐이지.. -
360Ghz
2025.03.25 08:54
일단은 엔비디아가 오픈에 풀어둔 SW가 꽤 많기는 합니다. 대외적인 이미지는 상당히 살벌한데 반해, 자기네 유저층을 붙잡기 위해 개발자들 유틸은 상당히 많이 내주죠. 오히려 완성형 SW를 자꾸 제공하면 추후 관리 안될 때 더 어려워집니다. 이런 케이스 AMD 쪽 프로젝트에서 많이 겪어본 사람들이 있어서 꺼려하기도 하구요.
애플이 이런 쪽에선 상당히 잘 해주는데, 애플이 AI에 손을 놓아버렸다보니 타사 프론트/백엔드 가져다 쓰고 있죠...ㅠ -
ForGoTTen
2025.03.24 17:19
GAIA는 프론트 GUI에 가깝고, 실제 연산을 하는 backend는 ONNX 런타임쪽이군요.
인텔쪽 NPU S/W가 좀 더 범용 가속기 스럽다면, AMD는 범용성은 적지만 서드파티쪽에서 어플리케이션 구현하기는 편한 쪽으로 가는 것 같습니다.
작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.
-
Read MoreNo Image
윈도우 업데이트가 라데온 드라이버를 덮어쓰는 문제를 해결
AMD 소프트웨어: 아드레날린 에디션 25.3.2가 나왔습니다. 여기에선 윈도우 업데이트가 이전 버전의 그래픽 드라이버를 덮어 씌우는 버그가 수정됐습니다. 그리고 HDMI로 여러 고주사율 모니터를 연결하거나, 라데온 RX 6000 시리즈에서 ... -
Read MoreNo Image
‘뒷계정’으로 음원 홍보 카카오엔터에 과징금 3억9천만원
공정위 조사 결과, 카카오엔터는 직접 운영하는 유명 페이스북, 인스타그램 등 계정에서 음원과 음반을 홍보하면서도, 카카오엔터가 소유한 계정이라는 사실을 밝히지 않은 것으로 드러났다. 2016년 10월부터 2024년 2월까지 ‘아이... -
Read More
라이젠 AI NPU에서 로컬 LLM을 실행하는 오픈소스 프로젝트, GAIA
AMD가 라이젠 AI 프로세서에 탑재된 NPU에서 로컬 LLM을 실행하는 오픈소스 프로젝트인 GAIA 를 발표했습니다. 출처에 가면 설치 방법과 사용 방법을 소개하고 있습니다. 모든 시스템에서 쓸 수 있는 버전과 라이젠 AI 프로세서의 NPU와 ... -
Read More
일부 사용자 구글 지도 타임라인 기능 오류 발생
구글 지도에서 사용자가 기기를 휴대한 상태에서 본인이 방문한 장소를 볼 수 있게 하는 타임라인 기능이 일부 사용자에게 오류가 발생한 것으로 보입니다. 구글은 이메일을 보내 이 사실을 알렸으며 백업 기능을 활용해 데이터를 복구... -
Read More
윈도우 11에 시스템 성능 FAQ를 표시하는 기능이 추가
윈도우 11 26120.3576 및 22635.5090 인사이더 빌드에서 시스템 성능을 알려주는 기능이 추가됐습니다. 시스템-정보 페이지에서 FAQ를 표시합니다. 윈도우가 최신 버전인지를 확인하고(업데이트에서 직접 봐야 함), 메모리 용량에 다라 실... -
Read MoreNo Image
레이저 WYVRN, 게임 개발지 지원 AI 서비스 공개
레이저가 게임 개발자용 플랫폼인 WYVRN을 발표했습니다. 게임 플레이 내용을 분석해 버그를 찾거나 보고서를 만드는 AI QA 코파일럿, 게임 내 가이드나 코칭 기능을 제공하는 AI 게임 코파일럿, 포스 피드백 기술 Sensa HD 햅틱, 다이나... -
Read MoreNo Image
NVIDIA 앱 11.0.3 버전 출시
NVIDIA 앱 11.0.3 버전이 나왔습니다. DLSS 초해상에서 원본 해상도를 직접 지정할 수 있습니다. 또 디스플레이 스케일링에서 다양한 모드를 선택하고, 스케일링 프로세스를 어디서 처리할지를 정할 수 있습니다. 그리고 디스플레이 색상 ... -
Read MoreNo Image
크롬 업데이트가 또 이상한 짓을 했군요(2)
크롬에서 즐겨찾기 폴더의 하위 폴더는 휠클릭을 해도 한번에 안 열리고 아무런 반응이 없다고 썼었는데요. https://gigglehd.com/gg/17199967 문득 오늘 해 보니 다시 되네요? 그리고 크롬은 수요일에 새 버전으로 업데이트가 됐었고요. ... -
Read More
클플, AI 크롤러를 족치는 생성형 AI 미로 개발
클플에서 AI 크롤러를 족치는 AI Labyrinth 인공지능을 내놨습니다. AI 크롤러도 늘고, 이 AI 크롤러가 하루에만 500억번이나 클플 리퀘를 날린단 겁니다. 전체 웹상에서 보면 1%도 되지 않습니다만 빡쳤죠 그래서 네펜시스(https://g... -
Read MoreNo Image
애플 TV+, 연 10억 달러의 적자
애플이 운영하는 구독 서비스 중에 유일하게 애플 TV+가 적자를 보고 있다고 합니다. 작년에 구독자가 4500만 명으로 늘었지만 여전히 매년 10억 달러 이상의 손실을 보고 있다네요. 애플은 2019년에 애플 TV+를 출시한 후로 매년 컨텐츠 ... -
Read More
윈도우 업데이트 일시정지 기간을 조작하는 방법
레지스트리 편집기 실행하시고 HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\WindowsUpdate\UX\Settings 이 경로로 가셔서 PauseFeatureUpdatesEndTime PauseQualityUpdatesEndTime PauseUpdatesExpiryTime 이 세개 항목의 데이터를 바꿔주... -
Read More
디스코드, 모바일 광고 도입
디스코드가 아바타 꾸미기 및 게임 아이템 등을 얻을 수 있는 광고 시스템을 도입한다 하네요. 채널 변경 화면 하단에 "퀘스트" 버튼이 나타나고, 이를 클릭해서 사용하는 형태로 보여집니다. 자세한 내용은 출처를 참고해주세요. -
Read MoreNo Image
ChatGPT, 무고한 사람을 존속 살해범으로 만들어
유럽연합 디지털 권리 옹호 단체인 Noyb가 목요일에 제기한 불만이 있었습니다. 노르웨이의 Arve Hjalmar Holmen이 사용자가 자기 이름을 검색하면 뭐가 나올지 알아보기로 했습니다. 그래서, ChatGPT 왈, "자녀 두 명을 살해하고, 셋째를... -
Read More
Stability AI, 정지 화면으로 3D 비디오를 만드는 AI 모델 발표
Stability AI가 1장~32장의 정지 화면으로 지정한 카메라 워크에 따라 3D 비디오를 만드는 AI 멀티뷰 확산 모델인 Stable Virtual Camera를 발표했습니다. 지금은 비상용 라이센스로 연구용으로 사용 가능합니다. 카메라 궤도, 회전, 줌인... -
Read MoreNo Image
GIMP 3.0 발표. 7년만의 대형 업데이트
무료 이미지 편집 소프트웨어인 GIMP 3.0이 나왔습니다. 2018년의 2.1 버전 이후 7년만에 대형 업데이트입니다. GUI 라이브러리를 GTK3로 업그레이드해, HiDPI 환경에서 UI 스케일링, 태블릿 입력 지원 개선, CSS 커스텀 테마 개발이 가능...
책읽는달팽
지금은 좀 아쉬운 성능이지만 그래도 장기적으로 보면 NPU를 유용하게 쓸 수 있는 장르라고 봐서 기대가 되네요.