Skip to content

기글하드웨어기글하드웨어

컴퓨터 / 하드웨어 : 컴퓨터와 하드웨어, 주변기기에 관련된 이야기, 소식, 테스트, 정보를 올리는 게시판입니다. 2016년 7월 이전의 글은 다음 링크를 참조하세요. 구 하드웨어 뉴스 / 구 디지털 뉴스 / 구 하드웨어 포럼 / 구 뉴스 리포트 / 구 특집과 정보 / 구 스페셜 게시판 바로가기

Extra Form
참고/링크 https://towardsdatascience.com/benchmark...802f27421c

1*4r7jTumdUyGQap-Edas8IQ.png

 

3c3dab0aac8a8b48aeeac10645de43a9.png

1*98i_tQq9LluHvUOi1r9VXA.png

 

 

 

개인 프로젝트 하는 도중에 요걸 봤는데, 생각보다 신기한 결과가 나오더군요

 

1. CNN을 제외한 모든 경우에서 m1 맥의 cpu는 batch size에 관계없이 gpu보다 더 좋은 결과가 나옵니다. 보통 LSTM은 배치 사이즈가 커질수록 GPU의 학습 성능이 CPU보다 더 좋아지는데, m1에서만 예외네요.

 

2. M1의 GPU는 K80이나 T4에 비해 느립니다. 아주 많이.

 

3. MLP에서는 batch size에 관계없이 m1 cpu가 가장 좋은 옵션입니다. 그 외의 경우에도 m1은 cpu 한정 대체로 k80정도의 성능은 나옵니다.

 

보통 배치 사이즈가 클수록, 데이터셋이 더 커질수록 GPU의 학습 성능이 CPU의 학습 성능을 압도하는 경우가 많은데, m1은 cpu의 학습 성능이gpu보다 강력하다니 솔직히 조금 당황스럽네요. CPU에 텐서코어를 내장한 것도 아닐테고, 그렇다고 cpu 학습시 뉴럴 엔진을 사용하지도 않을텐데...



  • ?
    아이들링 2021.05.10 00:14
    최근 arm ap에 cpu 기능 블럭으로 머신러닝맛이 조금씩 첨가 되었다는 소식을 본것 같은데...
    m1도 그게 붙은게 아닐까 의심되는군요
  • profile
    title: 문과BEE3E3      idolm@ster.email 2021.05.10 00:33
    애플 ML프레임워크를 사용할수 있도록 개발된 텐서플로우 빌드를 사용했으니 CPU 학습에서 뉴럴엔진을 썼을거에요. 제가 커뮤니티에 뉴럴엔진 성능관련 글을 올린적이 있는데(https://gigglehd.com/gg/9718352 ) 상당히 빠릅니다.
  • profile
    CyBerry      삶의 미련을 버리고 있습니다. 얼마 안 남았습니다. 2021.05.10 01:55
    셋중에 제일 가중치가 많은 mlp 기준으로 계산해봐도 45만개 수준(약 2MB)인데 아무리 간이 벤치라지만 너무 가벼운 모델로 테스트한 거 아닌가 싶네요..
    그거 감안해도 제법 빠른 거 같습니다
    cpu 벤치는 왜 eager mode 썼는지 읽어봐도 모르겠네요 cpu에서만 쓸 수 있다고만 적혀있고.. 램 때문에 그런가?
    흥미롭네요
  • profile
    title: 헤으응360ghz      파이토치로 이주하였습니다 ::: 5800X+RTX3080 2021.05.10 12:37
    CPU 모델로 무거운 벤치를 하게 되면 신용도가 내려가는 수준으로 떨어져서 였던거 같습니다. 예전에 CPU로 여러가지 해보겠다고 뻘짓을 좀 했었는데, 코어숫자 적은게 치명타인 수준으로 벤치 성능이 유의미하게 차이가 안나더라구요...
  • ?
    뚜찌`zXie 2021.05.10 06:48
    NPU에 디코더만 있지 인코더는 없을텐데, 현재 코인때문에 아범 노트북을 구하기 어려운 저한테는 M1맥이 좋은 대안일거 같습니다...
  • profile
    title: 공돌이Colorful 2021.05.10 08:02
    m1으로 cnn 돌려보니까 cpu보다 gpu가 확실히 빠르더라구요. gpu성능은 gtx1050ti에서 실행했을 때보다 약간 낮았구요.
  • ?
    RuBisCO 2021.05.10 11:43
    글 내용을 보니까 CPU 코어가 아니라 아니라 내장된 뉴럴엔진으로 돌아가는거 같습니다.
  • ?
    국밥맨 2021.05.10 12:30
    신기하네요. NPU는 보통 학습은 안 되는 걸로 알고 있었는데 아마 구글의 TPU랑 비슷한 방식일까요?
  • ?
    PHYloteer      🤔 2021.05.10 12:39
    위에도 글쓴분이 언급해주셨지만 컨슈머용 NPU는 일부 제품을 제외하고는 backprop이 안 되어서 저는 뉴럴엔진에 사용여부에 대해서는 부정적입니다. 원문을 쓰신 분도 딱히 실제 연산기 구현에 대해 자세히 아시는 분위기는 아닌 거 같은데요. 애플이 워낙 비밀주의를 고수하는 편이라.

    저는 오히려 NPU (뉴럴 엔진)가 아니라 AMX2 덕을 보는 게 아닌가 추정을 하고 있습니다. matmul 특화 SIMD인데 인공지능 하는 사람 일부는 이것도 그냥 NPU 취급해버리긴 하더라고요. 원래는 NPU라기보단 신경망 가속에도 쓸 수 있는 범용 DSP가속 명령어같은 느낌입니다.

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


  1. AMD의 첫번째 무선랜 모듈 RZ608

    AMD는 자체 브랜드로 Wi-Fi 모듈을 만들기 시작했습니다. 인텔은 자신들의 무선랜을 CPU와 묶어 노트북 시장에 판매하고 있으며, AMD 역시 그런 사업을 하길 원했나 봅니다. AMD는 라이젠 프로 모바일 프로세서 라인에 이걸 쓰려는 것 같...
    Date2021.05.11 소식 By낄낄 Reply18 Views2814 file
    Read More
  2. 알파쿨 코어 2 써멀 본드

    알파쿨 코어 2 써멀 본드입니다. 가격 6.19유로. 접착제와 애플리케이터를 4:1 비율로 섞어서 써야 합니다. 질화 알루미늄 70%, 에폭시 수지 20%로 구성, 열전도율은 0.9W/mK. 10분 뒤에 접착제가 굳기 시작하며 3분 안에 작업해야 합니다...
    Date2021.05.11 소식 By낄낄 Reply3 Views601 file
    Read More
  3. AI 보안 기능을 탑재한 NVMe SSD

    Flexxon의 NVMe M.2 SSD인 X-PHY Embedded AI CYBER SECURE SSD입니다. AI 데이터 보안 기능인 퀀텀 엔진 칩을 장착해 데이터를 실시간 모니터링/보호하고, 위협을 차단하며 펌웨어를 보호하는 자기 학습 기능을 지녔습니다. PCIe 3.0 x4,...
    Date2021.05.11 소식 By낄낄 Reply2 Views722 file
    Read More
  4. 2021년 1분기 x86 CPU 시장 점유율

    머큐리 리서치가 조사한 2021년 1분기 x86 CPU 시장 점유율입니다. 출하량은 전분기 대비 41% 늘었는데 1996년 이후 최대 증가폭입니다. 인텔은 79.3%로 전분기 대비 1%, 전년 대비 5.9% 줄었습니다. AMD에게 그만큼 시장을 뺐겼지만 셀러...
    Date2021.05.11 소식 By낄낄 Reply6 Views715 file
    Read More
  5. 지포스 RTX 2080 Ti를 22GB로 개조

    지포스 RTX 2080 Ti를 22GB로 개조한 영상입니다. 보다 정확히 말하면 물리적으로 손상된 지포스 RTX 2080 Ti를 구입해 GPU를 다시 붙이고 잘린 기판을 연결하고 8Gbit 메모리 칩을 16Gbit로 바꿔서 메모리 용량을 11GB에서 22GB로 늘렸...
    Date2021.05.11 소식 By낄낄 Reply3 Views980 file
    Read More
  6. 킹스톤 하이퍼 X 프레디터 DDR4-5300 메모리. 가격 1245달러

    킹스톤 하이퍼 X 프레디터 DDR4-5300 메모리입니다. 클럭이 참 높긴 하지만 가격 역시 어마어마하네요. Predator DDR4 클럭 레이턴시 용량 MSRP HX450C19PB3K2 / 16 5000 CL19 16GB (Kit of 2) $ 870.00 HX451C20PB3K2 / 16 5133 CL20 16...
    Date2021.05.11 소식 By낄낄 Reply1 Views327 file
    Read More
  7. No Image

    인텔 알더레이크 S, 11월 출시?

    인텔이 알더레이크-S를 2021년 11월에 출시한다는 소문입니다. PCIe 5.0과 DDR5를 지원하며 새로운 쿨러가 필요합니다. 다른 건 대충 다 맞는 것 같은데요. 저는 여름-가을 발표라고 들었거든요. 그럼 11월 출시도 일리는 있겠죠. 다만 이...
    Date2021.05.11 소식 By낄낄 Reply7 Views468
    Read More
  8. 14nm로 백포팅되면서 가장 큰 손해를 입은 게 GPU인건 알았는데

          이건 뭐 걍 '손해를 봤다'라는 표현으로 끝날 수준이 아니구만요 -_-;;;   물론 이번 테스트의 경우 리뷰어의 사정상 모든 샘플들을 동일 시점에서 테스트한 게 아니긴 합니다. (랩탑 같은 경우는 리뷰하고 나서 반납했기 때문에 ...
    Date2021.05.11 일반 By류오동 Reply9 Views1111 file
    Read More
  9. 노트북을 질렀습니다.

        11번가에서 세일 하길래 그냥 질러버렸습니다... 어차피 노트북이 필요하기도 했고, 저 위에 가격은 세일이 끝나서 200만원이지만 실제로 살때 11번가 무슨 행사라고 150만원에 팔길래 냅다 사버렸습니다. 근데 사놓고 보니 추가옵션...
    Date2021.05.10 일반 By거침없이헤드샷 Reply33 Views2238 file
    Read More
  10. 알리에서 파는 어댑터카드같은거 믿을만한가요?

    현재 이러한 제품을 보고 있습니다.   지금 제가 필요로 하는건 PCIe 슬롯에 직접 장착 가능한 SSD인데요   원래부터 그렇게 나온 제품은 사실 서버나 산업용이다보니 개인 PC에 장착하기 좀 비싸기 그지없습니다.   그래서 NVMe M.2 SSD...
    Date2021.05.10 질문 By노예MS호 Reply19 Views1290 file
    Read More
  11. No Image

    외장스토리지 제품 추천 해주실수 있나요

    나스말고 다스구성해볼려 하는데요   4~5베이   레이드 가능한 제품?   아니면 추천하시는 브랜드나 제품 좀 알려주시면 좋겠습니다        
    Date2021.05.10 일반 By단또 Reply8 Views529
    Read More
  12. M1 맥의 학습 성능이 gpu보다 cpu가 더 좋군요

            개인 프로젝트 하는 도중에 요걸 봤는데, 생각보다 신기한 결과가 나오더군요   1. CNN을 제외한 모든 경우에서 m1 맥의 cpu는 batch size에 관계없이 gpu보다 더 좋은 결과가 나옵니다. 보통 LSTM은 배치 사이즈가 커질수록 GPU...
    Date2021.05.10 일반 By국밥맨 Reply9 Views2906 file
    Read More
  13. No Image

    이런 용도라면 역시 M1 맥북이 제일 나을까요?

    동생이 이번에 미대 졸업을 해서 졸업선물을 해 주려고 하는데... 기존에 사용하던 노트북이 너무 노후화되어서 새 노트북을 생각중입니다. 주 사용도는 어도비 일러스트레이터입니다. 그 외에는 게임도 안하고. 인스타같은 SNS나 유튜브 ...
    Date2021.05.09 질문 By도개주 Reply16 Views1372
    Read More
  14. No Image

    맥북이 자체 cpu에서 인텔맥으로 바꾸던 시절 키노트

      애플이 개인적으로 인텔맥 단종 좀 늦게하면 좋겟네요.arm은 일딴 페럴이나 이런거 윈도우 호환성+e gpu안되고 ios처럼 다그도 막을것 같고 해서 arm기반 맥은 2세대 3세대로 가는게 좋은것 같다는 생각이 그보다 저 반도체 웨이퍼 엄...
    Date2021.05.09 일반 By에사카 Reply13 Views1955
    Read More
  15. No Image

    노트북 외장 하드로 ssd를 써보려고 합니다 위험할까요?

    노트북에 하드를 추가 연결할 수 없어 ssd를 usb로 주렁주렁 달아놓고 쓰려고 합니다.   노트북(라이젠 4800h) <- 유전원 usb 3.0 hub <- iptime 외장하드 케이스(usb 3.0) <- ssd(★★★ 860 evo 1tb)   용도는 드물게 토렌트 돌리고 그냥 ...
    Date2021.05.09 질문 Bydmy01 Reply6 Views621
    Read More
목록
Board Pagination Prev 1 ... 51 52 53 54 55 56 57 58 59 60 ... 1260 Next
/ 1260

최근 코멘트 30개
늘보
06:22
아라
06:02
아라
06:01
노예MS호
05:59
그라나다
05:45
MUSCLE
05:28
360ghz
05:11
늘보
04:46
염발
04:26
설레이는북극곰
04:10
미쿠미쿠
03:51
Retina
03:01
dmsdudwjs4
03:00
늘보
02:59
슈베아츠
02:52
슈베아츠
02:50
원이
02:50
냐아
02:48
슈베아츠
02:46
rnlcksk
02:38
veritas
02:32
rnlcksk
02:32
나르번
02:23
뚜까뚜까
02:20
Retina
01:57
알파카
01:57
Touchless
01:55
이계인
01:31
이계인
01:19
멘탈적분
01:18

현아이디어
AMD
MSI 코리아

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소