Skip to content

기글하드웨어기글하드웨어

컴퓨터 / 하드웨어 : 컴퓨터와 하드웨어, 주변기기에 관련된 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.

일반
2020.09.08 14:28

딥러닝 서버(들) 자랑

조회 수 3319 댓글 31
Extra Form

안녕하세요. 

눈팅만 하다가 처음 글을 써보네요 ㅎㅎ

 

5월인가 6월에 연구실에 새로운 딥러닝 서버를 들였는데, 바쁜 대학원생 삶의 특성상 중요하지 않은 일은 한없이 우선순위가 밀려서 아직도 글을 못 올렸네요..ㅠㅠ

얼마 전에 RTX3000번대가 발표되고 이거 빨리 글 안 올리면 미적지근한 반응이 나올 거 같아서 미루던 글을 지금이나마 올립니다. ㅎㅎ...

 

 

우선 간략한 사양표 입니다.

샤시는 슈퍼마이크로의 4U gpu 서버 라인업이고 각 TITAN RTX 8장씩 들어갔습니다. (서버는 총 2대 구매)

 

캡처.PNG

 

 

영롱한 타이탄들을 좀 보시죠 하악

 

KakaoTalk_20200908_140438624.jpg

 

KakaoTalk_20200908_140438270.jpg

 

 

 

 

이런 서버를 2대 구매하였고, 제가 서버관리를 맡은 이후 늘 사고 싶었던 서버 랙도 샀습니다.

원래는 아래처럼 개판이던 저희 서버들이...

 

KakaoTalk_20200908_141630627.jpg

 

(채굴기처럼 열려있는 서버는 슬픈 사연이 있습니다...)

 

 

 

지금은 깔끔해졌죠~

KakaoTalk_20200908_140439016.jpg

 

 

 

 

딥러닝 서버이다 보니까 우분투를 깔아 사용 중이라서 윈도우처럼 작업관리자에 있는 바둑판을 보여드릴 수는 없지만, 리눅스 환경에 친숙한 분들이라도 만족시켜드리기 위해 htop과 nvidia-smi 캡쳐도 첨부합니다.

 

캡처3.PNG

 

 

 

캡처2.PNG

 

 

 

 

 

혹시 궁금하신점 있으시면 자랑 답변해드리겠습니다 ㅎㅎ

 



  • profile
    낄낄 2020.09.08 14:30
    타이탄이 빽빽하군요. 저렇게 밀도가 높으면 온도는 괜찮을까요?
  • ?
    퉁퉁이 2020.09.08 14:38
    저도 구매 전에는 그걸 염려했었는데...
    저희가 서버 구매한 업체측에서 제공한 솔루션을 적용하니 풀로드에도 스로틀링 없이 사용 중입니다.
    대신 소음은 저세상 소음이네요...
  • profile
    낄낄 2020.09.08 14:48
    저세상 소음... 평범한 서버실 소음이 그대로 나오나 보군요. 어지간해선 들어가고 싶지가 않겠네요
  • ?
    퉁퉁이 2020.09.08 15:06
    IDC 기준이라면 평범한 소음일텐데
    학과내 공용서버실 입장에서는 원래 대충 60dB하던 소음이 80~90dB 근처로 뛴 고통스러운 상황이었습니다...ㅋㅋ
    타 연구실에서 민원도 많이 들어왔었구요...
  • profile
    맥주쥐      고기 ! 맥주 ! 사진 ! 2020.09.08 14:48
    저세상 RPM 팬을 2중설치 ...
  • profile
    BEE3E3      idolm@ster.email 2020.09.08 15:00
    이중반전팬.. 보기만해도 시끄럽네요.
  • profile
    catdaddy 2020.09.08 14:37
    그런 와중에 크고 세고 비싼 애들 중에서도 한 덩치를 자랑하는 가운데 pc의 케이스가 참 깔끔하군요!
    지금은 단종된 대양의 VIEW라는 케이스죠
  • ?
    퉁퉁이 2020.09.08 14:40
    사실 서버들에 비하면 작은데 광각 렌즈의 왜곡이 더 커보이게 만들었네요 ㅋㅋ
    랙으로 옮긴 후 사진에 보시면 우측 하단에 조용히 돌아가고 있습니다 ㅎㅎ
  • profile
    catdaddy 2020.09.08 14:44
    그렇죠, 요즘 컴퓨터 케이스 사이즈 중 비해서나 좀 큰편에 속할 뿐이죠!
    파워에 파란 불빛이 예쁜데 가끔 방안에 불을 모두 껐을 때는 생각보다 저게 밝더라구요
  • profile
    Retribute      안녕하세요. 행복한 하루 되세요. https://blog.naver.com/wsts5336     2020.09.08 14:44
    역시 랙 타입 서버는 커야 제맛이죠
  • profile
    title: 폭8Henduino      The Power of Dreams. 2020.09.08 14:48
    서버보다 Z800, Z820 워크스테이션이 눈이 띄네요.
  • profile
    dmsdudwjs4      Into the Unknown, Show Yourself !! // ThunderVolt_45 2020.09.08 15:20
    서버에 전원 넣는 순간 제트기 이륙하는 소리가 날 것만 같습니다 ㅎㄷㄷ
  • ?
    퉁퉁이 2020.09.08 15:44
    처음에 소리듣고 진짜 깜짝 놀랐습니다....
  • ?
    시로이소닉 2020.09.08 15:28
    씁... 저희는 인공지능 랩실로 전환한지 얼마 되지 않은데다 인원도 적어서 제작년에 들인 1080ti 한개(...)짜리 워크스테이션 한대를 못 벗어나고 있네요 ㅠㅠ 원래는 더 살 예정이었는데 코로나 때문에 과제 진행이 시원찮은 모양이라서요... 뭐, 딥러닝은 시간이 드럽게 오래걸려서 그렇지 일부 큼직한 놈들을 빼면 돌아가기는 한다는게 다행이랄까요... 그래도 얼마전에 교수님 관여하신 다른 사업단에 RTX5000이 있다는걸 알게되서 바로 빌려다 쓰고 있습니다. 저도 랙 갖고싶어요 ㅠㅠ
  • ?
    퉁퉁이 2020.09.08 15:46
    랙도 랙이지만 서버실이 따로 있는 것이 최우선인 거 같습니다.
    GPU 서버 너무 시끄러워서 서버실 따로 있지 않았으면 못 썼을 거 같네요..
  • profile
    주기율표 2020.09.08 15:33
    올만에 저런 시스템보니 반갑네요.
    GPU서버들은 옆에서 10분만 대기하고 있으면 귀가 찢어질 듯 아파요.. 리셉터클도 널부러져 있네요..
    TRT2는 봤는데 TRT랑 무슨 차이인지는 모르겠고 2000W파워 네개씩넣고 전력은 막 올라가고;;
  • ?
    퉁퉁이 2020.09.08 15:53
    저 리셉터클들이 저희 랙에 들어갑니다 ㅎㅎ
    trt랑 trt2가 아마 dual root, single root 차이로 기억하는데, 저희 용도에는 single root가 필요하지 않아서 trt로 선택했습니다
  • profile
    ForGoTTen      결제중.... 2020.09.08 15:34
    크...멋지네요. 저희는 Quadro RTX 8000 두장인데... 솔직히 double precision필요없으니 Titina RTX 4장이 좋았을지도...
    S/W는 어떤거 쓰시나염??? 정말 성능 다 뽑으려면 Tensorflow말고 Caffe2나 PyTorch같은 C쪽 모델이 좋아보이던데 말이죠?
  • ?
    퉁퉁이 2020.09.08 15:48
    주로 pytorch를 사용합니다.
    프레임워크가 없는 특이한 네트워크 (snn 등) 돌릴 때는 직접 cuda 커널 짜서 matlab 등으로 wrapping해서 쓰기도하구요.
    tensorflow도 연산은 cuda로 돌아가서 속도 좋지 않나요?? 그래도 구글에서 만든건데...
  • profile
    ForGoTTen      결제중.... 2020.09.08 17:05
    Cuda구현체를 Wrapper로 파이썬에서 한다리 건너서 돌리려고 하니 그런 느낌을 받운 것 같습니다. Yolo계열 볼 때는 직접 C코드로 주물럭 거리다가 Tensorflow보니 세세히 설정해줄만한 요소가 적더군요(...)
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2020.09.08 18:11
    tf는 너무 abstract하죠..
  • ?
    title: 민트초코라데온HD6950      봇치 더 락! 2기 기원 / 2700X + 6700 XT Owner 2020.09.08 15:43
    8x TITAN RTX!
  • ?
    포인트 팡팡! 2020.09.08 15:43
    라데온HD6950님 축하합니다.
    팡팡!에 당첨되어 10포인트를 보너스로 받으셨습니다.
  • ?
    dmy01 2020.09.08 16:01
    얘네는 잘 안 죽는다던데 사실인가요
  • ?
    its      시도 때도 없이 잠수.... https://crazyits.tistory.com/ 2020.09.08 16:16
    으... 소음 상상만 해도... ㄷㄷㄷ

    호기심에 물어봅니다.

    gpudirectstorage를 적용해서 사용하시나요?
    https://on-demand.gputechconf.com/supercomputing/2019/pdf/sc1922-gpudirect-storage-transfer-data-directly-to-gpu-memory-alleviating-io-bottlenecks.pdf
  • profile
    슬렌네터      Human is just the biological boot loader for A.I. 2020.09.08 16:46
    채굴력이 궁금해요! 하앍하앍
  • ?
    its      시도 때도 없이 잠수.... https://crazyits.tistory.com/ 2020.09.08 16:50
    똥일 겁니다...

    들리는 소문에 의하면... 3080이 FP32 강화로 인하여

    이더 115MH/s 나온다고 합니다. (스샷 같은 것이 돌아댕기고 있다는..)
  • ?
    레이지버드      i5-8400 / EVGA Z370 Classified K / G.Skill DDR4 3600MHz CL15 XMP 2020.09.08 18:27
    저희 연구실도 TITAN RTX 잔뜩 사려다가 발열문제를 해결 못할 것 같아서 쿼드로 8천 구매했는데 이 글을 보니 RTX 살껄 하는 후회감이 드네요.
  • ?
    푸른바다왕거북이 2020.09.08 19:27
    스크롤 내리며 랙사진 보고 앵글도 랙이긴 하지.. 싶었는데 Before 였군요..
  • profile
    큐비트      the last resort 2020.09.08 20:57
    타이탄 rtx가 8개;;; 가격도 소음처럼 우주로 가겠네요(...)
  • ?
    미주 2020.09.08 21:32
    역시 러닝엔 VRAM이...

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


  1. AMD 젠5c, 3nm 공정으로 생산, 젠5의 성능은?

    AMD가 젠5와 젠5c를 서로 다른 공정으로 만든다고 합니다. 그래닛 릿지 라이젠 데스크탑, 파이어 레인지 모바일 프로세서, 튜린 에픽 프로세서에 탑재되는 젠5는 지금보다 약간 발전한 4nm EUV 공정으로 만듭니다. 지금 젠4는 5nm EUV로 ...
    Date2024.02.20 소식 By낄낄 Reply4 Views2528 file
    Read More
  2. No Image

    NVIDIA 지포스 RTX 40 시리즈, 16핀 PCie 6.0 전원 커넥터 사용?

    NVIDIA 지포스 RTX 40 시리즈, 코드네임 블랙웰이 보조전원 커넥터를 또 바꿀 거라는 썰입니다. 이번에는 16개의 전원 핀으로 구성된 PCie 6.0 전원 커넥터를 쓸 거라네요. 여기에 신호 핀이 추가될 수도 있습니다. 지금 사용 중인 12V-2x...
    Date2024.02.20 소식 By낄낄 Reply11 Views1543
    Read More
  3. 삼성 포장램이라는게 있긴 했네요

    삼성램 근황이 궁금해서 검색해보는데   D3때는 검정 기판에 포장도 하던 적이 있었네요.    D5는여전히 개선전 D다이?dbo? 돌아다니고 워런티도 제조기준 18개월이라 저는 이제 딴램 사려고요.
    Date2024.02.19 일반 Bytitle: 명사수M16 Reply15 Views2399 file
    Read More
  4. 노트북 생활에서 데스크탑 구매하려는데 견적수정펀치 요청드립니다.

    기존 쓰던 노트북은 너무 쓰로틀링이 많이걸려서 vega8쓰는 U시리즈 라이젠 노트북입니다 캐쥬얼게임 저사양게임 저사양으로게임즐기기는 뭐 그냥저냥하지만 히든에서 부스트꺼도 쓰로틀링이 감당안되더라구요 이번 겨울까지는 추위에 쓰...
    Date2024.02.19 질문 By검은별 Reply30 Views667 file
    Read More
  5. No Image

    인텔, 100억 달러의 CHIPS 보조금을 더 받을 듯

    인텔은 바이든 행정부에 추가 보조금을 요구했습니다. 미국 내 시설 개발을 늘리면서 100억 달러의 직접 대출과 보조금을 달라고 했다네요. 앞으로 2주 안에 지급이 될 것으로 보입니다. CHIPS 법은 연방 투자 520억 달러, 미국 내 반도체...
    Date2024.02.19 소식 By낄낄 Reply10 Views1087
    Read More
  6. 슈퍼마이크로, 수요 증가로 반도체 공급 부족

    AI 붐이 일면서 슈퍼마이크로의 주가가 크게 올랐습니다. 2023년 말과 비교해서 주가가 182%가 올랐다고 하네요. 하지만 서버에 넣을 칩이 부족해서 제품 공급에 차질을 빚는 상황입니다. NVIDIA에게서 더 많은 공급을 받으면 더 많은 제...
    Date2024.02.19 소식 By낄낄 Reply2 Views780 file
    Read More
  7. No Image

    키오시아, WD와 합병을 위해 SK 하이닉스에게 딜 제안

    키오시아는 자사 공장에서 SK 하이닉스의 비휘발성 메모리를 만드는 방안을 SK 하이닉스에게 제안했습니다. 키오시아는 웨스턴 디지털과 합병하려 했으나, 웨스턴 디지털 공장의 지분을 갖고 있는 SK 하이닉스가 반대를 표명하면서 결국 ...
    Date2024.02.19 소식 By낄낄 Reply2 Views1133
    Read More
  8. No Image

    손 마사요시, AI 칩 회사 설립을 위해 1000억 달러를 투자할 계획

    소프트뱅크의 창업자인 손 마사요시가 NVIDIA와 경쟁할 AI 칩 회사인 프로젝트 이자나기를 위해 1000억 달러를 투자할 계획이라고 합니다. 이는 소프트뱅크 산하의 Arm을 보완하는 것이 목표지만, Arm의 ISA를 사용하는 것인지 Arm과 관게...
    Date2024.02.19 소식 By낄낄 Reply2 Views766
    Read More
  9. 쓰레기를 치우다가 발견된 세계 최초의 데스크탑 PC 2대

    쓰레기 처리 업체가 집을 치우다가 1972년에 출시된 Q1 코퍼레이션의 Q1 데스크탑 PC 2대를 발견했습니다. 세계 최초의 데스크탑 PC라고 하네요. 지금은 영국 서리주 킹스턴대학교에 전시됐고, 나중에 경매에 부처질 에정입니다. 여기에는...
    Date2024.02.19 소식 By낄낄 Reply10 Views2948 file
    Read More
  10. 8코어 8스레드 루나레이크 실행 스크린샷이 발견

    8코어 8스레드 루나레이크 실행 스크린샷이 발견됐습니다. 클럭은 1.8~2.8GHz, L1 캐시는 836KB(P코어 112KB, E코어 96KB씩), L2 캐시는 14MB(P코어 2.5MB, E코어 4개가 4MB 공유), L3 캐시 12MB입니다. A1 실리콘이기에 클럭은 이보다 더...
    Date2024.02.19 소식 By낄낄 Reply20 Views3509 file
    Read More
  11. 코어 i9-14900KS가 프랑스에서 750유로에 등록

    코어 i9-14900KS가 프랑스에서 VAT 포함 752.62유로에 등록됐습니다. 3월에 나온다고 하니 지금쯤 등록되도 이상하진 않겠네요. 유럽 지역 가격과 비교하면 14900K보다 146유로 더 비쌉니다.
    Date2024.02.19 소식 By낄낄 Reply0 Views283 file
    Read More
  12. 라데온 RX 790 GRE, 영국에 출시 예정

    중국 시장 전용 모델이었던 라데온 RX 7900 GRE가 영국 시장에도 출시될 예정입니다. XFX의 모델이 등록됐다가 지금은 삭제됐습니다. 기가바이트 모델은 미국 시장에 나온다는 말이 있습니다. 가격은 549달러가 될 거라고 하네요.
    Date2024.02.19 소식 By낄낄 Reply1 Views394 file
    Read More
  13. ZEN2의 전성비가 확실히 난 놈은 난 놈인 듯 합니다.

      ZEN2+RDNA2에 N7로 만들었음에도 불구하고 ZEN4+RDNA3에 N4로 만든 놈들에게 전혀 안 꿇리는....   리프레시까지 한번 싹 나오고 나서야 결국 뒤집혔다 카네요.     사실 3세대 밀라노 나올 당시 로마랑 비교했을 때 전성비는 오히려 ...
    Date2024.02.18 테스트 By류오동 Reply7 Views2063 file
    Read More
  14. No Image

    선생님들 그래픽 질문 있습니다

    갑작스런 주제이지만   아이유 8K 봉선쓰 영상 테스트 말인데요   인텔은 UHD700 계열로 가능   엔비디아는 RTX 계열로 가능 라데온도 7000번대? 맞나요 그거면 될거 같은데요   AV1이 이제는 최신도 아니고 그리 대단하지 않다지만 분명 ...
    Date2024.02.18 질문 By냥뇽녕냥 Reply4 Views630
    Read More
  15. No Image

    Userbenchmark가 연간 유료 서비스로 전환됩니다.

    뭐 이걸 쓰는 유저들이 있기야 하겠느냐만, 하여튼 연간 유료 서비스(...)로 전환되며, 1년에 10파운드라고 합니다.   삼디막 할인할 때가 만원이 안 되는데 10파운드라..... 걍 골수 충성 빠들 골수 빨아먹기로 가려나 보군요.   p.s: 탐...
    Date2024.02.18 소식 By류오동 Reply15 Views906
    Read More
목록
Board Pagination Prev 1 ... 34 35 36 37 38 39 40 41 42 43 ... 1938 Next
/ 1938

MSI 코리아
한미마이크로닉스
AMD
더함

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소