Skip to content

기글하드웨어기글하드웨어

컴퓨터 / 하드웨어 : 컴퓨터와 하드웨어, 주변기기에 관련된 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.

일반
2020.09.08 14:28

딥러닝 서버(들) 자랑

조회 수 3319 댓글 31
Extra Form

안녕하세요. 

눈팅만 하다가 처음 글을 써보네요 ㅎㅎ

 

5월인가 6월에 연구실에 새로운 딥러닝 서버를 들였는데, 바쁜 대학원생 삶의 특성상 중요하지 않은 일은 한없이 우선순위가 밀려서 아직도 글을 못 올렸네요..ㅠㅠ

얼마 전에 RTX3000번대가 발표되고 이거 빨리 글 안 올리면 미적지근한 반응이 나올 거 같아서 미루던 글을 지금이나마 올립니다. ㅎㅎ...

 

 

우선 간략한 사양표 입니다.

샤시는 슈퍼마이크로의 4U gpu 서버 라인업이고 각 TITAN RTX 8장씩 들어갔습니다. (서버는 총 2대 구매)

 

캡처.PNG

 

 

영롱한 타이탄들을 좀 보시죠 하악

 

KakaoTalk_20200908_140438624.jpg

 

KakaoTalk_20200908_140438270.jpg

 

 

 

 

이런 서버를 2대 구매하였고, 제가 서버관리를 맡은 이후 늘 사고 싶었던 서버 랙도 샀습니다.

원래는 아래처럼 개판이던 저희 서버들이...

 

KakaoTalk_20200908_141630627.jpg

 

(채굴기처럼 열려있는 서버는 슬픈 사연이 있습니다...)

 

 

 

지금은 깔끔해졌죠~

KakaoTalk_20200908_140439016.jpg

 

 

 

 

딥러닝 서버이다 보니까 우분투를 깔아 사용 중이라서 윈도우처럼 작업관리자에 있는 바둑판을 보여드릴 수는 없지만, 리눅스 환경에 친숙한 분들이라도 만족시켜드리기 위해 htop과 nvidia-smi 캡쳐도 첨부합니다.

 

캡처3.PNG

 

 

 

캡처2.PNG

 

 

 

 

 

혹시 궁금하신점 있으시면 자랑 답변해드리겠습니다 ㅎㅎ

 



  • profile
    낄낄 2020.09.08 14:30
    타이탄이 빽빽하군요. 저렇게 밀도가 높으면 온도는 괜찮을까요?
  • ?
    퉁퉁이 2020.09.08 14:38
    저도 구매 전에는 그걸 염려했었는데...
    저희가 서버 구매한 업체측에서 제공한 솔루션을 적용하니 풀로드에도 스로틀링 없이 사용 중입니다.
    대신 소음은 저세상 소음이네요...
  • profile
    낄낄 2020.09.08 14:48
    저세상 소음... 평범한 서버실 소음이 그대로 나오나 보군요. 어지간해선 들어가고 싶지가 않겠네요
  • ?
    퉁퉁이 2020.09.08 15:06
    IDC 기준이라면 평범한 소음일텐데
    학과내 공용서버실 입장에서는 원래 대충 60dB하던 소음이 80~90dB 근처로 뛴 고통스러운 상황이었습니다...ㅋㅋ
    타 연구실에서 민원도 많이 들어왔었구요...
  • profile
    맥주쥐      고기 ! 맥주 ! 사진 ! 2020.09.08 14:48
    저세상 RPM 팬을 2중설치 ...
  • profile
    BEE3E3      idolm@ster.email 2020.09.08 15:00
    이중반전팬.. 보기만해도 시끄럽네요.
  • profile
    catdaddy 2020.09.08 14:37
    그런 와중에 크고 세고 비싼 애들 중에서도 한 덩치를 자랑하는 가운데 pc의 케이스가 참 깔끔하군요!
    지금은 단종된 대양의 VIEW라는 케이스죠
  • ?
    퉁퉁이 2020.09.08 14:40
    사실 서버들에 비하면 작은데 광각 렌즈의 왜곡이 더 커보이게 만들었네요 ㅋㅋ
    랙으로 옮긴 후 사진에 보시면 우측 하단에 조용히 돌아가고 있습니다 ㅎㅎ
  • profile
    catdaddy 2020.09.08 14:44
    그렇죠, 요즘 컴퓨터 케이스 사이즈 중 비해서나 좀 큰편에 속할 뿐이죠!
    파워에 파란 불빛이 예쁜데 가끔 방안에 불을 모두 껐을 때는 생각보다 저게 밝더라구요
  • profile
    Retribute      안녕하세요. 행복한 하루 되세요. https://blog.naver.com/wsts5336     2020.09.08 14:44
    역시 랙 타입 서버는 커야 제맛이죠
  • profile
    title: 폭8Henduino      The Power of Dreams. 2020.09.08 14:48
    서버보다 Z800, Z820 워크스테이션이 눈이 띄네요.
  • profile
    dmsdudwjs4      Into the Unknown, Show Yourself !! // ThunderVolt_45 2020.09.08 15:20
    서버에 전원 넣는 순간 제트기 이륙하는 소리가 날 것만 같습니다 ㅎㄷㄷ
  • ?
    퉁퉁이 2020.09.08 15:44
    처음에 소리듣고 진짜 깜짝 놀랐습니다....
  • ?
    시로이소닉 2020.09.08 15:28
    씁... 저희는 인공지능 랩실로 전환한지 얼마 되지 않은데다 인원도 적어서 제작년에 들인 1080ti 한개(...)짜리 워크스테이션 한대를 못 벗어나고 있네요 ㅠㅠ 원래는 더 살 예정이었는데 코로나 때문에 과제 진행이 시원찮은 모양이라서요... 뭐, 딥러닝은 시간이 드럽게 오래걸려서 그렇지 일부 큼직한 놈들을 빼면 돌아가기는 한다는게 다행이랄까요... 그래도 얼마전에 교수님 관여하신 다른 사업단에 RTX5000이 있다는걸 알게되서 바로 빌려다 쓰고 있습니다. 저도 랙 갖고싶어요 ㅠㅠ
  • ?
    퉁퉁이 2020.09.08 15:46
    랙도 랙이지만 서버실이 따로 있는 것이 최우선인 거 같습니다.
    GPU 서버 너무 시끄러워서 서버실 따로 있지 않았으면 못 썼을 거 같네요..
  • profile
    주기율표 2020.09.08 15:33
    올만에 저런 시스템보니 반갑네요.
    GPU서버들은 옆에서 10분만 대기하고 있으면 귀가 찢어질 듯 아파요.. 리셉터클도 널부러져 있네요..
    TRT2는 봤는데 TRT랑 무슨 차이인지는 모르겠고 2000W파워 네개씩넣고 전력은 막 올라가고;;
  • ?
    퉁퉁이 2020.09.08 15:53
    저 리셉터클들이 저희 랙에 들어갑니다 ㅎㅎ
    trt랑 trt2가 아마 dual root, single root 차이로 기억하는데, 저희 용도에는 single root가 필요하지 않아서 trt로 선택했습니다
  • profile
    ForGoTTen      결제중.... 2020.09.08 15:34
    크...멋지네요. 저희는 Quadro RTX 8000 두장인데... 솔직히 double precision필요없으니 Titina RTX 4장이 좋았을지도...
    S/W는 어떤거 쓰시나염??? 정말 성능 다 뽑으려면 Tensorflow말고 Caffe2나 PyTorch같은 C쪽 모델이 좋아보이던데 말이죠?
  • ?
    퉁퉁이 2020.09.08 15:48
    주로 pytorch를 사용합니다.
    프레임워크가 없는 특이한 네트워크 (snn 등) 돌릴 때는 직접 cuda 커널 짜서 matlab 등으로 wrapping해서 쓰기도하구요.
    tensorflow도 연산은 cuda로 돌아가서 속도 좋지 않나요?? 그래도 구글에서 만든건데...
  • profile
    ForGoTTen      결제중.... 2020.09.08 17:05
    Cuda구현체를 Wrapper로 파이썬에서 한다리 건너서 돌리려고 하니 그런 느낌을 받운 것 같습니다. Yolo계열 볼 때는 직접 C코드로 주물럭 거리다가 Tensorflow보니 세세히 설정해줄만한 요소가 적더군요(...)
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2020.09.08 18:11
    tf는 너무 abstract하죠..
  • ?
    title: 민트초코라데온HD6950      봇치 더 락! 2기 기원 / 2700X + 6700 XT Owner 2020.09.08 15:43
    8x TITAN RTX!
  • ?
    포인트 팡팡! 2020.09.08 15:43
    라데온HD6950님 축하합니다.
    팡팡!에 당첨되어 10포인트를 보너스로 받으셨습니다.
  • ?
    dmy01 2020.09.08 16:01
    얘네는 잘 안 죽는다던데 사실인가요
  • ?
    its      시도 때도 없이 잠수.... https://crazyits.tistory.com/ 2020.09.08 16:16
    으... 소음 상상만 해도... ㄷㄷㄷ

    호기심에 물어봅니다.

    gpudirectstorage를 적용해서 사용하시나요?
    https://on-demand.gputechconf.com/supercomputing/2019/pdf/sc1922-gpudirect-storage-transfer-data-directly-to-gpu-memory-alleviating-io-bottlenecks.pdf
  • profile
    슬렌네터      Human is just the biological boot loader for A.I. 2020.09.08 16:46
    채굴력이 궁금해요! 하앍하앍
  • ?
    its      시도 때도 없이 잠수.... https://crazyits.tistory.com/ 2020.09.08 16:50
    똥일 겁니다...

    들리는 소문에 의하면... 3080이 FP32 강화로 인하여

    이더 115MH/s 나온다고 합니다. (스샷 같은 것이 돌아댕기고 있다는..)
  • ?
    레이지버드      i5-8400 / EVGA Z370 Classified K / G.Skill DDR4 3600MHz CL15 XMP 2020.09.08 18:27
    저희 연구실도 TITAN RTX 잔뜩 사려다가 발열문제를 해결 못할 것 같아서 쿼드로 8천 구매했는데 이 글을 보니 RTX 살껄 하는 후회감이 드네요.
  • ?
    푸른바다왕거북이 2020.09.08 19:27
    스크롤 내리며 랙사진 보고 앵글도 랙이긴 하지.. 싶었는데 Before 였군요..
  • profile
    큐비트      the last resort 2020.09.08 20:57
    타이탄 rtx가 8개;;; 가격도 소음처럼 우주로 가겠네요(...)
  • ?
    미주 2020.09.08 21:32
    역시 러닝엔 VRAM이...

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


  1. 노브랜드 16:10 모니터 구입

    노브랜드에 먹을거 사러 갔다가 모니터가 있어서 질렀습니다.   요즘 작은 글자가 안보여서 망설이지 않았습니다.     로고가 아에 없어 깔끔하구요. 베젤도 슬림합니다.     5방향 전원겸 메뉴버튼과 베사마운트가 보이네요     HDMI 둘,...
    Date2020.09.08 일반 Bytitle: 오타쿠아라 Reply18 Views3038 file
    Read More
  2. MSI 지포스 RTX 30 시리즈를 보고 느낀점

    여태까지 나온걸로만 봤을땐..   톡스 4.0 팬이라는건 2개의 블레이드 팬 날개를 연결시켜서 링 형태로 만들었네요   모든 팬 날개를 링형으로 만드는거보다 효율적인건지 뭔지 신기하네요   히트파이프를 코어파이프라고 언급하네요.   ...
    Date2020.09.08 일반 By오므라이스주세요 Reply0 Views701 file
    Read More
  3. Bykski RTX3090 블럭이 판매중입니다.

      Bykski 3090 블럭이 나왔네요. 외형이 전세대 대비 상당히 짧네요. 길이가 211mm에 불과합니다. 저는 전세대 블럭을 쓰는데 품질이 꽤 좋았습니다.  가격도 더 저렴한듯한데 논알지비 기준 77.29달러에 올라왔어요. 다른 경로로 사면 ...
    Date2020.09.08 소식 Bytitle: 명사수SOCOM Reply5 Views689 file
    Read More
  4. 블랙 감성! MSI 지포스 RTX 30 벤투스 3X 시리즈 이미지

    안녕하세요.​트윈프로져7 팬으로 최저소음!MSI 지포스 RTX 3090 벤투스 3X OC 24GBhttp://prod.danawa.com/info/?pcode=12213866&cate=112753MSI 지포스 RTX 3080 벤투스 3X OC 10GBhttp://prod.danawa.com/info/?pcode=12213851&...
    Date2020.09.08 소식 ByMSI-KOREA Reply3 Views610 file
    Read More
  5. 왜이럴까요...

    똥수율이라서 그런가...   보드는 z490 로그 스트릭스a입니다. 바이오스 업데이트하고 전력제한 해제해놨는데, 내장그래픽 때문인가요? 내장그래픽에 1기가 할당하긴 했는데... 문제가 없어보이는데 말이죠
    Date2020.09.08 질문 By240Hz Reply7 Views747 file
    Read More
  6. 딥러닝 서버(들) 자랑

    안녕하세요.  눈팅만 하다가 처음 글을 써보네요 ㅎㅎ   5월인가 6월에 연구실에 새로운 딥러닝 서버를 들였는데, 바쁜 대학원생 삶의 특성상 중요하지 않은 일은 한없이 우선순위가 밀려서 아직도 글을 못 올렸네요..ㅠㅠ 얼마 전에 RTX3...
    Date2020.09.08 일반 By퉁퉁이 Reply31 Views3319 file
    Read More
  7. EVGA, RTX 3090을 2.1GHz로 오버클럭

    EVGA가 지포스 RTX 3090 FTW3 그래픽카드의 코어 클럭을 2105MHz, GDDR6X 메모리는 22Gbps로 오버클럭한 영상을 올렸습니다. 영상 앞부분에서 지포스 RTX 3090의 기본 클럭은 1695Mhz, GDDR6X는 9750Mhz(19.5Gbps)로 나옵니니다.
    Date2020.09.08 소식 By낄낄 Reply5 Views1553 file
    Read More
  8. No Image

    수요 감소, DRAM과 SSD 가격 하락

    삼성을 비롯한 주요 메모리 공급사가 DRAM과 낸드 플래시 메모리의 재고를 많이 갖고 있습니다. 이유는 현재 시장의 수요가 낮아서라고 합니다. 4분기에 메모리 가격은 10% 정도 떨어질 것으로 예측되며, 2021년 상반기까지도 하락세가 지...
    Date2020.09.08 소식 By낄낄 Reply12 Views1426
    Read More
  9. 하드디스크의 한계일까요?

      NAS 헤놀로지와 2.5GBE로 (IPTIME PX2500)으로 본체와 NAS 연결 한 상태입니다.   초반에는 속도가 130까지는 나오다가 갑자기 조루가 되버리네요... 나스에서 사용중인 하드는 8TB 짜리 익스터널 하드 적출해서 쓰고 있고 SSD캐시 적...
    Date2020.09.08 질문 ByGXIID Reply16 Views1219 file
    Read More
  10. 지포스 RTX 3080의 애쉬즈 오브 더 싱귤러래티 벤치마크

    지포스 RTX 3080의 애쉬즈 오브 더 싱귤러래티 벤치마크입니다. 4K 크레이지에서 88.3fps가나왔습니다. RTX 2080 Ti는 69.7fps, 2080 슈퍼는 57.4fps, 5700XT는 53.5fps 정도가 나오니 높긴 하네요.
    Date2020.09.08 소식 By낄낄 Reply2 Views764 file
    Read More
  11. 인텔 최고 커뮤니케이션 담당자, 클레어 딕슨 사임

    인텔의 최고 커뮤니케이션 담당자인 클레어 딕슨 부사장이 사임한다고 발표했습니다. 2019년 6월에 인텔에 합류했으나 개인적인 사유로 퇴사한다네요. 인텔 전에는 페이팔, 이베이, VM웨어에서 근무했습니다.
    Date2020.09.08 소식 By낄낄 Reply4 Views978 file
    Read More
  12. No Image

    AMD, 미디어텍과 함께 Wi-Fi 6 무선랜 개발

    인텔은 802.11ax Wi-Fi 6 NIC 컨트롤러 시장에서 압도적인 점유율을 갖고 있습니다. Wi-Fi 6을 지원하는 제품에는 다 인텔의 WLAN 카드가 들어가지요. AMD는 미디어텍과 파트너쉽을 맺고 앞으로 나올 라이젠 노트북에 미디어텍 IP를 기반...
    Date2020.09.08 소식 By낄낄 Reply17 Views1236
    Read More
  13. No Image

    AMD 4세대 라이젠 베르메르, 젠3 아키텍처의 10코어?

    라이젠 DRAM 계산기와 클럭튜너의 개발자가 4세대 라이젠, 베르메르에 대한 정보를 공개했습니다. 우선 10코어 제품이 추가됩니다. 코어 수가 더 늘어나겠죠. 그리고 젠 3의 CCD(칩렛)은 거대한 32MB L3 캐시를 공유하는 8코어입니다. 그...
    Date2020.09.08 소식 By낄낄 Reply4 Views1364
    Read More
  14. 메인보드 RGB LED 전원 공급용 USB to ATX 24핀 케이블

    메인보드의 RGB LED를 켜기 위한 전원 공급용 USB to ATX 24핀 케이블입니다. 가격은 968엔. USB 보조배터리에 연결해서 메인보드의 불을 켤 수 있습니다. MSI 메인보드는 아예 RGB LED만 켜는 핀헤더가 달려 있던데.. 그런게 없는 메인보...
    Date2020.09.08 소식 By낄낄 Reply2 Views700 file
    Read More
  15. No Image

    레노버 씽크센터 M75q 제품의 소모전력이 알고싶습니다.

      저는 기존에 오드로이드-H2라는 인텔의 저전력 코어를 기반으로 한 미니PC를 사용해서 헤놀로지 서버를 돌리고 있습니다.   그리고 이번에 라이젠 기반의 소형 PC인 M75q로 업그레이드를 고려중이구요.   그런데 서버를 굴리고 있는 지...
    Date2020.09.08 질문 By노예MS호 Reply15 Views1055
    Read More
목록
Board Pagination Prev 1 ... 944 945 946 947 948 949 950 951 952 953 ... 1939 Next
/ 1939

최근 코멘트 30개
보문산타이거
05:06
보문산타이거
05:04
슬렌네터
04:49
라데니안
03:40
포인트 팡팡!
03:16
Lynen
03:16
유카
03:08
린네
02:29
린네
02:24
이수용
02:22
카에데
02:21
별밤전원주택
02:15
린네
02:14
별밤전원주택
02:13
카에데
02:10
nsys
02:09
빈도
01:58
빈도
01:58
마초코
01:41
이계인
01:40
이계인
01:38
세라프
01:37
냥뇽녕냥
01:36
세라프
01:34
세라프
01:31
니즛
01:31
파팟파파팟
01:30
세라프
01:29
유지니1203
01:29
니즛
01:27

MSI 코리아
AMD
더함
한미마이크로닉스

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소