Nvidia가 투자한 것이 있어서 학습에서는 아직인데, 추론으로도 그렇게하려니 비용이 너무 큰 나머지 다들 전용칩 만드네요.
Intel이나 AMD도 추론에서는 가속칩을 별로도 만들고 있고요
미래에는 학습도 옮기려나요...?
커뮤니티 게시판
:
아주 기본적인 네티켓만 지킨다면 자유롭게 쓸 수 있는 커뮤니티 게시판입니다. 포럼에서 다루는 주제는 각각의 포럼 게시판을 우선 이용해 주시고, 민감한 소재는 비공개 게시판이나 수상한 게시판에, 홍보는 홍보/외부 사용기 게시판에 써 주세요. 질문은 포럼 게시판의 질문/토론 카테고리를 사용해 주세요.
잡담
2023.05.30 11:55
분위기가 추론은 가속칩으로 학습은 아직까진 GPU로 가네요
-
-
?
Neons 2023.06.01 12:15
추론은 모델에서 쓰는 행렬 곱셈과 activation function들만 구현하면 범용성 있게 구현할 수 있는데 학습은 아직 최적화가 덜 끝나서 그런것 아닐까 싶네요. 이를테면 분산 학습 환경에서 어느 부분을 어느 GPU에 할당해서 학습을 진행할 것인지, Gradient를 어떻게 네트워크로 전달할 것인지 등등등... -
그나마 Google은 전용칩 쓰긴 히는데, 싸보면 실상 GPU에서 AI 학습에 필요한 부분 외에는 전부 뜯어낸 물건이더군요…
작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.
| 번호 | 분류 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|---|
| 75412 | 잡담 |
A220-300이라는 소형기를 타 봤습니다.
9 
|
가우스군 | 2023.06.25 | 770 |
| 75411 | 잡담 |
알리에서 산 물건 4 - baseus 100w 보조배터리
4
|
카에데 | 2023.06.25 | 1088 |
| 75410 | 잡담 |
이것도 몇달 기다리니까 가격 많이 내려왔군여
3
|
고자되기 | 2023.06.25 | 399 |
| 75409 | 잡담 |
알리에서 산 물건 3 - 아이패드용 usb 허브
|
카에데 | 2023.06.25 | 264 |
| 75408 | 잡담 |
이거 무슨 틱톡 전술인가 뭔가...
4
|
포도맛계란 | 2023.06.25 | 459 |
| 75407 | 잡담 |
아깽이들 많이 컸네요.
7
|
 먀먀먀 | 2023.06.25 | 510 |
| 75406 | 퍼온글 | 모스크바 코앞서 멈춘 반란…푸틴·프리고진, 일단 ... 14 | 낄낄 | 2023.06.25 | 997 |
| 75405 | 잡담 |
오? 알리에서 지른게 오는데 말이죠
4
|
포도맛계란 | 2023.06.25 | 474 |
| 75404 | 퍼온글 |
러시아 쿠데타와 오늘의 운세
3
|
낄낄 | 2023.06.25 | 608 |
| 75403 | 잡담 |
마켓팅이 이게 맞나...?
5
|
 까마귀 | 2023.06.25 | 347 |
| 75402 | 잡담 |
알리에서 지른게 드디어 왔네요.
3
|
ExpBox | 2023.06.25 | 416 |
| 75401 | 잡담 |
이 MLCC가 떨어진 스마트폰 메인보드는 살릴 수 ...
9
|
도토로이 | 2023.06.24 | 1542 |
| 75400 | 장터 |
레오폴드 FC980C 15만미터
|
360Ghz | 2023.06.24 | 465 |
| 75399 | 잡담 |
3D 항목 비정상 급발진 문제 대충 해결...?
5
|
까마귀 | 2023.06.24 | 524 |
| 75398 | 잡담 |
시계를 샀습니다.
3
|
 아라 | 2023.06.24 | 339 |
| 75397 | 퍼온글 |
심상치않은 러시아 반란사태
27
|
고자되기 | 2023.06.24 | 1090 |
| 75396 | 핫딜 |
[종료] corsair mp600 pro LPX 2TB 14.2만원(장바...
2
|
이피리아 | 2023.06.24 | 492 |
| 75395 | 잡담 |
크롬 혹시 인텔 업스케일링 설정이 안풀린 걸까요...
5
|
까마귀 | 2023.06.24 | 514 |
| 75394 | 잡담 |
CU 이웃집 통통이 브라우니 약과 쿠키 후기
6
|
유니 | 2023.06.24 | 453 |
| 75393 | 방구차 |
코로나 벤치 돌려왔습니
|
Yukirena | 2023.06.24 | 185 |
| 75392 | 잡담 | 러시아 내전 판이 커지네요 15 | babozone | 2023.06.24 | 692 |
| 75391 | 잡담 |
대림동 리얼 스톤 카페 설계 독특하네요.
8
|
유니 | 2023.06.24 | 883 |
| 75390 | 잡담 |
1달러 쿠폰이 3개...
5
|
까마귀 | 2023.06.24 | 362 |
| 75389 | 잡담 |
대림동 리얼 돌 카페 와봤습니다.
17
|
유니 | 2023.06.24 | 929 |
| 75388 | 퍼온글 | 요즘 종교 근황 3 | 동방의빛 | 2023.06.24 | 795 |
| 75387 | 잡담 |
심심해서 코로나 10 벤치
|
하아암 | 2023.06.24 | 233 |
| 75386 | 잡담 | nvme 2TB의 가격은 어느정도 선이 있군용 14 | 포도맛계란 | 2023.06.24 | 665 |
| 75385 | 잡담 |
날씨 참 좋네용
4
|
 AZUSA | 2023.06.24 | 195 |
| 75384 | 잡담 |
토스 앱내 광고에 우리은행이
1
|
 아즈텍 | 2023.06.24 | 490 |
| 75383 | 퍼온글 |
러시아에 로마식 민속놀이 발발
19
|
고자되기 | 2023.06.24 | 910 |
골때리게도 하드웨어 제조사따라, 운영체제따라 전부 각자 노는 중이거든요. 현존 사용자용 소프트웨어 중 가장 파편화가 심해서 범용 학습이 가능해야할 추론용 하드웨어는 전체로 포맷이 가능한 제품이 되어야하다보니, gpu가 그 것으로 사용되고 있는 정도...