Skip to content

기글하드웨어기글하드웨어

인터넷 / 소프트웨어 : 윈도우즈, 리눅스, 기타 운영체제, 각종 어플리케이션, 프로그램, 소프트웨어, 인터넷, 인터넷 서비스에 대한 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.

질문
2025.03.13 15:27

chat gpt 같은 ai 프로그램

Extra Form

음.. 갈수록 뭐가 많이 나오고 이젠 코딩(?)도 해주고 뭐 아무튼 뭔가 특화된 것들이 계속 나오네요.

 

궁금한 것은....

chat 도 그렇고 제미니도 그렇고 로그인하고 사용하잖아요?

 

요즘 vram 이 중요하다고 다들 하더군요. ai 에서 말이죠.

 

이게 학습을 시키기 위해서 그런 것 같은데...

 

일반 사용자는 pc 성능이 안중요해도 될까요?

 

모바일에서도 제미니, 딥시크, chat 등 다 앱이 있잖아요. 그런데 아무래 모바일이 성능이 좋아도...

pc 가 더 좋을텐데...

 

그냥 ai 에게.. 뭐가 궁금해 요약해줘. 무슨 코딩(?)해줘. 계산해줘...

이런 것들도 pc 성능이 좋고 vram 이 많아야 하나요?

 

아직 한번도 사용안해보고 이런 프로그램에 대한 개념이 없어서요....;;;

아니면 vram 같은 pc 성능이 좋으면 그냥 결과도출이 빨리 나오는 것 일까요?

그런데... 이게 문뜩 간단한 유툽이나 기사 요약이나... 단순 산수(수학)문제일 경우 뭐 별 차이가 있겠나 싶고...

동영상이나 그런 것 제작하면 성능이 중요할 것 같기도 하고요.... 



  • profile
    title: AI이게뭘까      good.jpg 2025.03.13 15:44
    기기 성능을 따지는 경우는
    본인 기기에서 직접 llm 학습/추론을 할 때입니다

    당연히 채찍피티, 클로드, 딥시크 등을 웹을 통해 사용한다면 사용자 기기는 그정도 웹통신을 할 성능만 있으면 됩니다

    만약 내 개인정보가 너무 소중해서 딥시크를 로컬로 돌리겠다면 vram이 많이많이 필요하겠지만 대부분의 일반인은 그냥 ai회사가 자기네 서버로 ai굴려 제공하는 웹버전을 쓰니 븨램 용량따위 아무렴 상관없긴 합니다
  • profile
    title: 정상화ForGoTTen      결제중.... 2025.03.13 15:47
    GPT 같은 언어모델도 클라우드 게임 같은거라 보시면 됩니다. 내가 내 로컬에서 GPU써서 게임을 돌릴 수도 있고, 서버에서 연산해서 내가 결과만 받을 수 있구요.

    전자면 내가 직접 연산해야 하니 연산자원이 많이 필요하고, 후자면 계산 결과를 주고 인터넷 대역폭만 있으면 됩니다.
  • profile
    스와마망      어-흥! 장난이야! 2025.03.13 15:57
    ai는 대부분 많은 병렬연산을 요구합니다. 그래서 cpu보단 gpu가 효율이나 성능적으로 잘맞는데 연산하면서 많은 데이터를 처리해야하고 연산속도뿐만아니라 데이터입출력도 중요한데 이경우 vram에 적재해두고 연산을하니 vram의 크기가 곧 한번에 연산할수있는 크기의 한계로 받아들여집니다.

    램은 vram이 모자랄때 옮겨쓰는경우도있지만 연산도중 이런짓을하면 병목현상때문에 속도가 엄청느려집니다.

    차라리cpu로 돌리는건 처음부터 램을쓰기도하죠

    아무튼 이런 이유때문에 직접 ai를 운용할땐 vram이 중요해지죠

    하지만 대부분 ai서비스를 이용하는방식은 기업이만든 ai모델, 컴퓨팅리소스 등등을 사용자는 이용만하는 방식이라 인터넷만 잘되면됩니다
  • profile
    투명드래곤 2025.03.13 17:15
    답변 주신 분들 감사합니다. 학습형이나 로컬형이 아닐 경우는 저사양도 충분하겠군요.
  • ?
    이계인 2025.03.13 17:21
    그래서 요즘 애플 m칩의 128g통합메모리나 스트릭스헤일로 등 통합메모리들이 로컬컴퓨터의 ai사용을 고려한 물건입니다. 아직까지 큰 쓸모는 없으나 미래엔 ai비용이 발생될때가 오겠죠.
  • profile
    야생감귤 2025.03.13 19:10
    로컬에서 돌리는것을 기준으로 vram이든 그냥 메모리든 용량 대역폭 두가지가 중요합니다
    대역폭은 모델 돌리는 속도, 용량은 모델 크기를 결정합니다. 통합메모리로 나오는것들이 대역폭이 높은 편인데 엔비디아 vram보다 싸서 가성비를 챙긴다고 보면 됩니다.
  • profile
    가네샤      https://924717.tistory.com/ 2025.03.13 20:02
    로컬에서 돌리는거 아니면 그냥 인터넷만 되면 됩니다.
  • profile
    jihadem 2025.03.13 23:12
    저사양 경우에는 하드웨어 따라 성능 제한이 많고 시간이 몇 배 차이가 나다보니 고성능으로 맞추는 이유가 있긴합니다. 못해도 30초 걸리는것에 반 이상 단축이 되거든요
  • ?
    진외자 2025.03.14 08:13
    다들 설명 잘 해주셨지만 흔히 말하는 AI서비스들인 LLM은 대체적으로 모델 사이즈가 엄청나게 크고, 그래서 학습하거나 추론(학습완료한 모델로 입력을 넣어주면 결과를 뱉어 주는 것)하는 과정에서 일반적인 gpu로는 감당하기 힘듭니다. 저희가 쓰는 서비스들은 웹 기반이거나 앱이나 프로그램이어도 실제 추론은 데이터센터에서 이뤄지게 됩니다.

    개인이 쓸만한 수준의 경량형 모델들도 있지만 그런 경우 아직 최종 제품, 서비스로는 잘 안 나오고 개인이 코드 받아 실행을 해야하죠. 이 경우는 GPU가 매우 중요합니다.


    LLM(언어 관련 딥러닝 모델이라고 보면 될것 같네요)이 아니어도 다양한 분야에 딥러닝, 머신러닝이 쓰이고 있어서 스마트폰, 컴퓨터 등에 NPU가 들어가는 것은 자연스러운 흐름같습니다만 일반적인 LLM 돌릴 수준은 안 됩니다.


  1. No Image

    트럼프 일가 바이낸스 지분인수 협상중?

    사면 조건으로 지분을 인수협상이라는 이야기가 WSJ를 통해 나왔습니다.   이후, 창업자인 창펑자오는 바로 부인하였으나,    어떨진 모르죠.   다만, 저말이 사실이라면 그간 트럼프 정권이 펴온 정책이 단순히 일론머스크의 입김만이 아...
    Date2025.03.15 소식 Bytitle: 가난한AKG-3 Reply1 Views461
    Read More
  2. FMA 최적화를 통해 속도를 크게 향상시킨 Glibc의 쌍곡선 함수

      인텔 스카이레이크 CPU에서 FMA가 적용된 tanh를 테스트한 결과 최대 개선은 약 14%, 최소/평균 개선은 이전 코드보다 약 4% 빨라진 것으로 나타났습니다. 관심이 있으신 분들은 이 Glibc 커밋을 통해 FMA에 최적화된 tanh 함수를 확인...
    Date2025.03.14 소식 Bytitle: 오타쿠nb2sy Reply4 Views549 file
    Read More
  3. 홈플러스 정상화 진행중, 채권 3400억원 상환

    https://n.news.naver.com/mnews/article/243/0000074357?sid=101 https://n.news.naver.com/mnews/article/009/0005458678?sid=101 https://n.news.naver.com/mnews/article/001/0015265654?sid=101 홈플러스 사장이 나와서 변제를 열심...
    Date2025.03.14 소식 Bytitle: 가난한AKG-3 Reply7 Views1049 file
    Read More
  4. No Image

    다음, 분사

    말 그대로 카카오에서 다음이 분사 합니다.   뉴스에도 적혀있지만 일각에서는, 분사후 매각절차를 밟는게 아닌가 하는중입니다.   우회상장을 위해 다음을 인수했고, 용도가 다하고 너프를 잔뜩시키고 돈될만한거 옮긴 다음에, 쭉쩡이 된...
    Date2025.03.13 소식 Bytitle: 가난한AKG-3 Reply26 Views2227
    Read More
  5. No Image

    chat gpt 같은 ai 프로그램

    음.. 갈수록 뭐가 많이 나오고 이젠 코딩(?)도 해주고 뭐 아무튼 뭔가 특화된 것들이 계속 나오네요.   궁금한 것은.... chat 도 그렇고 제미니도 그렇고 로그인하고 사용하잖아요?   요즘 vram 이 중요하다고 다들 하더군요. ai 에서 말...
    Date2025.03.13 질문 By투명드래곤 Reply9 Views954
    Read More
  6. No Image

    프로그램 늦게 뜨는 문제 질문

    사양: 윈도우11, 램 64기가, 12600k    문제: 반디뷰, 팟플레이어와 같은 미디어플레이어를 반복적으로 껐다 킬 때 딜레이 4초 정도 발생     윈도우를 인플레이스 설치하고 보안프로그램을 지워도 해결될 기미가 없어 문의드립니다.
    Date2025.03.13 질문 ByGPT Reply7 Views627
    Read More
  7. No Image

    크롬 업데이트가 또 이상한 짓을 했군요

    북마크바에서 즐겨찾기 폴더에 마우스 휠클릭을 하면 폴더의 모든 즐겨찾기가 열립니다. 그런데 즐겨찾기 폴더의 하위 폴더는 휠클릭을 해도 한번에 안 열리고 아무런 반응이 없네요. 원래는 이렇게 몇 년 동안 잘 썼다가 오늘 갑자기 안...
    Date2025.03.12 일반 By낄낄 Reply3 Views1031
    Read More
  8. No Image

    블루 스카이, 생성형 AI등을 위한 프레임워크 개발 중

    월요일 오스틴에서 열린 SXSW 컨퍼런스에서 블루 스카이 CEO 제이 그래버(Lantian[남천(蓝天)의 중국어명을 영어로 옮김. Jay는 별칭이고, 이게 이름입니다. ] "Jay" Graber)는 블루 스카이가 자신의 데이터가 생성형 AI 등에 사용되는 방...
    Date2025.03.12 소식 Bytitle: 민트초코책읽는달팽 Reply0 Views514
    Read More
  9. No Image

    MS 원격 데스크탑 앱, 5월 27일자로 지원 종료

    마이크로소프트 스토어에 올라온 원격 데스크탑 앱이 5월 27일자로 지원 중단되며 다운로드도 막힙니다. 마이크로소프트는 윈도우 앱을 대신 쓰라고 권장합니다.
    Date2025.03.12 소식 By낄낄 Reply7 Views963
    Read More
  10. No Image

    Android 휴대폰에서 곧 Debian Linux를 실행할 수 있게 됩니다(일부 Pixel은 이미 실행 가능).

    요약 정리 1. Samsung Galaxy S25 Plus의 성능 스펙: Snapdragon 8 Elite CPU, 12GB RAM, 512GB SSD. Qualcomm은 이 CPU가 Intel Core Ultra 288V보다 빠르다고 주장하며, 이는 대부분의 노트북보다 강력한 성능을 의미. 질문: 이런 강력...
    Date2025.03.11 소식 Bytitle: 오타쿠nb2sy Reply14 Views939
    Read More
  11. No Image

    롯데 하이마트 마소 오피스 5만원 사도 되나요?

    롯데 하이마트 마소 오피스 5만원 사도 되나요?   혹시 1년한정 구독 같은 것 아니지요??   아무리 개인용이라지만.... 넘 싸네요
    Date2025.03.11 질문 By망극이 Reply3 Views1145
    Read More
  12. No Image

    미 법무부 - 크롬은 무조건 팔고, 안드는 나중에 보자

    일단 아시다시피 트럼프 법무부는 바이든 법무부가 제출한 주요 제안을 날렸습니다.   그래서 AI 투자를 강제로 매각하도록 요청하지 않을것이며, 안드 처리 방법이 달라질것이라 합니다. 그러나 크롬은 여전히 도마위에 있죠.   법무부 ...
    Date2025.03.11 소식 Bytitle: 민트초코책읽는달팽 Reply2 Views904
    Read More
  13. No Image

    백악관 수뇌부 암호화폐 대량 매각

    백악관 수뇌부가 전략비축 발표전에 암호화폐를 대량 매각한 사실이 알려지면서 비트코인 리플 솔라나 "전략비축 정보 사전 유출" 의혹이 제기되고 있다. 데이비드 색스(David Sacks), 트럼프 행정부의 AI·암호화폐 정책 책임자가 ...
    Date2025.03.11 소식 By낄낄 Reply3 Views1012
    Read More
  14. No Image

    X(구:트위터), 어나니머스 발 DDOS로 서버 불안정

    어제 저녁부터 이어지던 X(트위터) 서버 불안정은 디도스 공격 때문입니다.   개인적으론 일론은 좀 맞아야한다고 생각하지만 DDOS때문이라면 모르겠네요.    블루스카이, 마스토돈은 언제나 열려있습니다
    Date2025.03.11 소식 Bytitle: AMDuss0504 Reply1 Views641
    Read More
  15. 싼건 다 이유 가 있다

    고객사에 랜선 날려야 하는데 총 2개의 망 총 6라인정도 뽑았습니다. 천장으로 말이죠 옆동네 같곳에 120라인 요청 나와서 두개 묶어서  이건 사내외주 돌렸습니다.   전 전문 네트워크 야가다 아제가 아니닌깐요          일단 3라인씩 ...
    Date2025.03.10 일반 Bytitle: 명사수토키 Reply10 Views1965 file
    Read More
목록
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 ... 641 Next
/ 641

최근 코멘트 30개

앱코
한미마이크로닉스
더함
AMD
MSI 코리아

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소