최근 게임 하는게 원신 밖에 없어서 그래픽카드에 욕심은 없었는데 (원신도 시작한지 몇개월 안되었습니다)
유튜브 게임 영상 올리면서 Whisper AI 로 영문 자막 추가하다 보니
12G 비디오램으로는 다른거 하면서 라지모델을 돌릴수가 없어(비디오 메모리 사용량이 11.6기가 이상 되면서 윈도우 반응속도 자체가 느려집니다.) 필요성이 크게 다가왓습니다.
더욱이 large-v2 모델은 vram부족으로 돌아가지 않는 상황.
1. 3090을 산다(VRAM : 24G) -> 그래픽카드 성능이 옆그레이든데, 이왕 돈 들일거 좀 아깝지 않나?
2. 4080을 산다(VRAM : 16G) -> 성능은 좀 오르긴 하는데, 저걸 저돈주고?? 차라리 4090이 낫지 않을까?
3. 4090을 산다(VRAM : 24G) -> 돈은 좀 비싸지만 성능 향상 / 소비전력 감소 / 비디오메모리 증가 / 온도도 착하다고 하고... 기타 등등.. 돈만 손해보면 된다!
결국 3번을 선택하기 위해서 중고장터/당근/번개장터/쿨앤../퀘사존 등등 특가 및 중고매물 탐색에 들어갔습니다.
대충 일주일쯤 보다가 조탁 4090 amp... 모델을 186만원에 구매했습니다.
쿨링팬 베어링 소리가 있다거나, 고주파음 있을수 있다거나 하는 이야기가 많았는데
다행히 소음이나 고주파음 없는 물건이었습니다.
우선 전력소모량 : 원신 QHD 60fps 기준 3080Ti가 130~150W를 소모했습니다. (0.875v로 언더볼팅)
4090 : QHD 60fps 기준 50w 소모 .......네??? (0.9v로 언더볼팅)
(4K * 120fps 사용시 150w 소모 ->3080Ti qhd 60fps과 비슷한 전력소모)
다음 온도 : 원신 QHD 60fps 기준 3080Ti가 60~70도 정도 나옵니다.
4090 : 원신 QHD 60fps 기준 40도.....
Whisper AI : large-v2 가 3080Ti일때는 vram부족으로 안돌았는데, 잘돌고 일본어 음성인식 능력도 medium이나 large보다 우수하네요. 4090으로 바뀌어서 속도도 더 빠른거 같고...(당연하다면 당연한 결과)
일본어 -> 한국어 번역 능력도 좀올라가면 좋겠습니다.
페이스북 모델은 한국어 번역 정말 이상해서 못쓰겠던데...
페이스북 모델이 아닌, whisper ai 자체 번역기능인 타언어 ->영어 번역은 번역성능이 꽤 괜찮아 보입니다
이전에 쓰던게 3080Ti 인데 3080Ti와 비교해서 전성비 체감이 클지도 모르겠습니다.
원신 돌리는 정도면 팬이 제로팬 되었다가 잠깐 돌았다가 하는 정도로 부하가 안걸릴 정도입니다.
결론 : 전력소모량, 온도, 성능 정말 좋습니다. 가격도.. 4x 다른 시리즈랑 비교하면 액수가 좀 큰거 제외하면 아깝지 않은것 같습니다.
CUDA연산을 이용할 수 있으니 Web-UI 만드신 분이 같이 끼워넣으신것 뿐이구요.
https://huggingface.co/facebook/nllb-200-3.3B