가전 / 가젯 / 테크 : 가전 제품, 멀티미디어, 각종 IT 기기와 여기에 관련된 기술의 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.

소식

2024.09.21 01:03

KAIST 한동수 연구팀, 소비자용 비디오 카드 여럿 묶어 AI 학습 가능케 하는 기술 개발

"시간이 지나면 이통사 수입이 남으면 틀림없이 요금을 내릴 겁니다." - 오남석

조회 수 1500 댓글 7

Extra Form
참고/링크	https://n.news.naver.com/mnews/article/092/0002345935

[언론 보도]

韓-美, "가정용 GPU로 기존 104배 넘는 초고효율 AI학습 가속기술 개발"

2024년 9월 19일 지디넷코리아 기사입니다.

기존에는 AI 모델 학습을 위해 H100 여러 대와 400 Gbps급 네트워크가 필요했습니다. KAIST 박사 임휘준, 박사과정 학생 예준철, UC 어바인 교수 산기타 압두 조시(Sangeetha Abdu Jyothi)와 공동으로 진행한 연구로 개발한 스텔라트레인(StellaTrain)이라는 분산 학습 프레임워크는 일반 인터넷 환경에서도 효율적 분산 학습이 가능하도록 합니다. 네트워크 속도에 맞추어 데이터를 압축 및 전송하는 알고리즘을 적용했기 때문입니다.

CPU와 GPU를 병렬로 연결해 학습 속도를 높이고, 작업 단계별로 나눠 처리하는 파이프라인 기술도 도입하였습니다. 모델별 GPU 활용률 실시간 모니터링도 가능합니다.

스텔라트레인을 사용하면 기존 데이터 병렬 학습보다 최대 104 배 빠릅니다.

삭제 요청

Prev 스페이스 X, 2년내에 무인 우주선을 화성에 보내기로 스페이스 X, 2년내에 무인 우주선을 화성에 보내기로 2024.09.23by 책읽는달팽 엔커 보조배터리 일부 제품의 과열 및 발화 위험으로 리콜 ... Next

엔커 보조배터리 일부 제품의 과열 및 발화 위험으로 리콜 ... 2024.09.20by FactCore

목록 스크랩

위로 아래로 댓글로 가기

Comments '7'

스와마망 어-흥! 장난이야! 2024.09.21 09:46

오호 논문찾아봐야겠군요
임시닉네임 "시간이 지나면 이통사 수입이 남으면 틀림없이 요금을 내릴 겁니다." - 오남석 2024.09.21 13:34

찾아보니 공개 논문입니다.
스와마망 어-흥! 장난이야! 2024.09.21 13:40

오픈소스로 깃헙에올라온것도있고 재밌어보이네요
야생감귤 2024.09.21 13:13

이런건 기사가 아니라 논문을 가져오셔야
임시닉네임 "시간이 지나면 이통사 수입이 남으면 틀림없이 요금을 내릴 겁니다." - 오남석 2024.09.21 13:25

지적 감사

"Accelerating Model Training in Multi-cluster Environments with Consumer-grade GPUs" https://dl.acm.org/doi/10.1145/3651890.3672228
Github repository https://github.com/kaist-ina/stellatrain
KAIST 측 보도자료 https://news.kaist.ac.kr/news/html/news/?mode=V&mng_no=39670
360Ghz case kill mark: TT CTE700, ssupd meshroom S/D, BQ SB 802 white, CM H500... 2024.09.23 05:16

걍 ddp랑 별 차이 없어보이는데...
ForGoTTen 결제중.... 2024.09.23 13:00

consumer level GPU는 GPU direct (GPU끼리 직접 통신) 가 안되서 collective communication을 위해서 CPU 호스트 메모리를 거처야 하는데, 호스트 거치는 김에 gradient 압축(1)하고 통신 시간을 고려해서 파이프라인을 변경하여 버블을 줄이는대신 1배치 전 가중치를 사용하겠다(2) 가 주요 노벨티 입니다.

다만 뭔가 뭔가인 부분은 어차피 요즘 모델어 커져서 호스트 메모리에 어쩔 수 없이 오프로딩 하는게 일반적인 테크닉이 되었고 (구지 컨슈머 레벨 GPU가 아니라도 호스트 메모리를 사용하는게 일반적), gradient 압축과 변경된 파이프라인이 분명 모델의 학습 결과에 영향을 줄텐데, 그 부분을 LM이 아니라 비전 모델로 보여준것이 좀 아쉽습니다. (LM에 비해서 비전 모델은 막? 해도 결과가 좀 나오는 편이니까요)

?댓글 쓰기

TI-84 계산기를 챗GPT 기기로 개조

TI-84 계산기를 개조해서 챗GPT에게 일을 시키는 기계를 만들었습니다. Seeed Studio XIAO-ESP32-C3 마이크로 컨트롤러를 넣고 Wi-Fi로 인터넷에 연결해 챗GPT에게 질문할 수 있습니다. 이걸 시험칠 때 갖고 가면 진짜 컨닝으로 취급해야...

Date2024.09.24 소식 By낄낄 Reply5 Views921

Read More
No Image

스페이스 X, 2년내에 무인 우주선을 화성에 보내기로

일론 머스크가 2년안에 화성으로 가는 무인 우주선 5개를 쏜다고 합니다. 그러면서 첫번째 승무원 탑승 일정(편도비행이겠죠...)은 무인 비행의 성공 여부랍니다. 여튼, 무인 탐사선이 무사히 착륙한다면 4년후 유인 탐사선을 발사할 생...

Date2024.09.23 소식 By책읽는달팽 Reply9 Views521

Read More
No Image

KAIST 한동수 연구팀, 소비자용 비디오 카드 여럿 묶어 AI 학습 가능케 하는 기술 개발

[언론 보도] 韓-美, "가정용 GPU로 기존 104배 넘는 초고효율 AI학습 가속기술 개발" 2024년 9월 19일 지디넷코리아 기사입니다. 기존에는 AI 모델 학습을 위해 H100 여러 대와 400 Gbps급 네트워크가 필요했습니다. KAIST 박사 임휘준, ...

Date2024.09.21 소식 By임시닉네임 Reply7 Views1500

Read More
엔커 보조배터리 일부 제품의 과열 및 발화 위험으로 리콜 시행중

제품명 앤커 334 MagGo 배터리(파워코어 10K) 앤커 파워뱅크 앤커 MagGo 파워뱅크 모델명 : A1642/A1647/A1652 3종류의 파워뱅크 시리즈 일부 배터리셀의 제조결함이 발생하여 특정 S/N의 제품들이 과열에 의한 외부 플라스틱 변형 및 ...

Date2024.09.20 소식 ByFactCore Reply2 Views639

Read More
No Image

국과수 "인천 지하주차장 전기차 화재, 외부 충격에 배터리팩 손상 가능성"

국과수는 감정 결과에서 “차량 밑면의 외부 충격으로 배터리팩 내부의 셀이 손상되며 절연파괴(규정된 전압을 벗어난 이상 전압에 의하여 절연이 파괴되는 현상)로 이어져 발화했을 개연성을 배제할 수 없다”고 분석했다. 일...

Date2024.09.20 소식 By낄낄 Reply13 Views1093

Read More
에너지 밀도를 25% 가까이 높인 전고체 배터리 프로토타입

벨기에에 본사를 둔 R&D 대기업인 Imec와 13개 파트너는 SOLiDIFY 프로젝트의 일환으로 최고의 리튬 이온 전지(800Wh/L)보다 거의 25% 높은 1070Wh/L의 에너지 밀도를 가진 프로토타입 솔리드 스테이트 배터리를 제조했습니다. 더...

Date2024.09.20 소식 By아무개 Reply6 Views1165

Read More
TECSUN PL-680 부품 수급 문제로 일시 생산 중단, 단종 가능성 존재

[참고] Anon-co 홈페이지에서 재고 없음 표시 확인하고 단종인지 문의하였습니다. 아날로그 IC 부품이 없어서 대체품을 찾고 있고, (대체품을 찾지 못한다면) 단종 가능성도 있으며, PL-660도 동일한 문제가 있지만 곧 재고 입고 예정이...

Date2024.09.19 소식 By임시닉네임 Reply0 Views484

Read More
No Image

이마트, 스마트미 선풍기 2종 자발적 리콜

[소식] 원인 불명 배터리 과열 현상이 발생하여 고객 안전 확보 차원에서 선제적으로 진행하는 리콜입니다. 대상 상품은 스마트미 스탠드 선풍기 2S(무선), 스마트미 스탠드 선풍기 3(무선) 입니다. 하단 라벨에 "수입/판매원: ㈜이마트...

Date2024.09.19 소식 By임시닉네임 Reply0 Views621

Read More
No Image

스타링크의 신호를 사용해 스텔스 항공기와 드론을 감지

중국 과학자들은 스타링크 위성 신호를 사용해서 스텔스 항공기와 드론을 탐지하는데 성공했습니다. DJI 팬텀 4 드론으로 스텔스 항공기를 시뮬레이션하고, 스타링크 위성의 전자기 신호를 분석해서 이를 감지해 냈다고 합니다. 비행기나 ...

Date2024.09.19 소식 By낄낄 Reply5 Views819

Read More
No Image

16384가지 상태를 저장하는 분자 필름으로 아날로그 컴퓨터를 만듬

인도 과학 연구소의 연구팀은 16384개의 전도 상태를 저장하는 분자 필름을 만들었습니다. 우리가 쓰는 컴퓨터는 2비트, 그러니까 0과 1의 두 가지 상태를 저장합니다. 양자 컴퓨터는 2^n개, 큐비트에 따라서 갯수가 늘어나는데 큐비트가 ...

Date2024.09.17 소식 By낄낄 Reply1 Views832

Read More
렉사 1700MB/s SD 8.0 메모리카드

렉사가 1700MB/s의 읽기 속도와 1000MB/s의 쓰기 속도를 내는 SD 8.0 표준 메모리카드를 발표했습니다. 지금까지 나온 그 어떤 메모리카드보다도 빠르지요. 이 표준은 한 달 전에 완성됐기에 아직까지는 이를 지원하는 리더기나 카메라가 ...

Date2024.09.17 소식 By낄낄 Reply14 Views1634

Read More
아지노모토의 웨어러블 전기 조미료

아지노모토, 도쿄 대학, 오차노미즈 대학 공동 연구팀은 전기 자극으로 미각을 조종하는 전기 조미료를 세계 최초로 개발했습니다. 염분 섭취를 줄이는 것이 목적으로, 아래턱과 목에 약한 전기 자극을 줘서 짠맛을 섭취량보다 더 크게 느...

Date2024.09.16 소식 By낄낄 Reply11 Views2021

Read More
테슬라 세미 화재진압에 5만 갤런의 물을 소모

한달 전 미국 캘리포니아에서 발생한 교통사고로 인해 테슬라 세미에 불이 난 적이 있습니다. 테슬라 세미는 2017년 발표되고 2022년에 출시한 테슬라의 전기 구동 트럭입니다. 미국 연방 교통안전위원회의 조사에 따르면, 15시간 ...

Date2024.09.14 소식 By디이나 Reply11 Views1399

Read More
No Image

인피니언, 세계 최초 300mm GaN 웨이퍼 기술 개발 성공

인피니언이 세계 최초로 300mm 크기의 GaN 웨이퍼를 개발하는데 성공했습니다. 기존의 200mm 웨이퍼보다 2.3배 더 많은 칩을 한 장의 웨이퍼로 만들 수 있습니다. 또 기존의 300mm 실리콘 공정 장비를 사용해서 GaN을 만들 수 있다는 장점...

Date2024.09.14 소식 By낄낄 Reply2 Views836

Read More
No Image

삼성, 편광 필름 사업부 매각

OLED에도 쓰이는 만큼, 내수가 중요한 물건일텐데 갑작스럽게.. 일전에 공개했던 폴리스 디스플레이가 완전 상용화일 수도 있다고 보나 봅니다.

Date2024.09.13 소식 By360Ghz Reply6 Views1381

Read More
청라 아파트 전기차 화재 블랙박스 공개

처음 불은 전기차에서 시작했지만, 천장 배관에 도배된 가연성 소재를 타고 불이 옮겨 붙는 영상이 나왔습니다. 배관을 감싼 단열재가 난연재나 불연재가 아니라서 문제군요. 심지어 이게 불법도 아니라고 합니다. 이제 전기차 완충방지...

Date2024.09.12 소식 By낄낄 Reply11 Views1429

Read More
렉사, 스테인리스 스틸 재질 SD 카드 발표

렉사 아머 시리즈 SD 카드입니다. 아머 골드 SD UHS-II와 아머 실버 프로 SD UHS-II가 있습니다. 316 스테인리스 스틸 재질로 케이스를 만들어 구부러지지 않으며, IP68 방수/방진 인증을 받았습니다. 속도는 둘 다 280MB/s의 읽기 속도...

Date2024.09.11 소식 By낄낄 Reply22 Views2173

Read More
No Image

TCL TV의 QD 논란

“QD TV에 QD가 없다?” TCL TV 논란 https://www.etnews.com/20240905000299 중국 TCL 퀀텀닷(QD) TV 일부 모델에 QD 소재가 들어있지 않다는 분석 결과가 나왔다. 프리미엄을 표방해 만든 QD TV에 QD가 없다는 얘기여서 논란...

Date2024.09.10 소식 By낄낄 Reply8 Views1375

Read More
낫싱, 새로운 제품을 예고

낫싱이 새로운 제품의 티저 이미지를 올렸습니다. 이어폰을 옆에서 찍은 것처럼 보입니다.

Date2024.09.08 소식 By낄낄 Reply2 Views1146

Read More
MSI 마에스트로 300 게이밍 헤드셋 발표

MSI 마에스트로 300 게이밍 헤드셋입니다. 40mm 구경 드라이버, 메쉬와 가죽 재질의 이어패드, 단방향 카디오이드 마이크, 무게 247g, USB-C/USB-A 연결.

Date2024.09.07 소식 By낄낄 Reply0 Views408

Read More