Skip to content

기글하드웨어기글하드웨어

컴퓨터 / 하드웨어 : 컴퓨터와 하드웨어, 주변기기에 관련된 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.

Extra Form
참고/링크 https://www.techradar.com/pro/feels-like...checkbooks

groqmain.jpg

 

Groq의 LPU 추론 엔진이 탑재된 카드입니다. GPU보다 빠르게 LLM 대규모 언어 모델을 처리하도록 설계됐습니다. 오직 LLM에만 초점을 맞췄기에 효율도 높다고 하네요. 

 

1개의 단어당 필요한 계산 시간을 줄이고 텍스트 시퀸스를 빠르게 생성할 수 있습니다. 무엇보다 80TB/s의 대역폭으로 230MB의 SRAM만 사용하며 비싼 HBM 메모리를 필요로 하지 않는다고 합니다.

 

아래는 Llama 2/Mixtral LLM과 OpenAI의 Chat-GPT 실행 영상입니다. 1초도 안되는 시간에 텍스트를 생성하고, 대부분은 관련 정보를 검색하는데 사용합니다. 

 


TAG •


작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


  1. 엔비디아, 대만 TSMC에서 애플에 이은 2위 고객으로 되었음

    ▶ 엔비디아, TSMC에서 애플에 이은 거대 수익원 측면에서 2위를 차지함 - 2023년(엔비디아) : TSMC의 'AI(인공지능) GPU 제조' 서비스 비용을 지불하고, 순 이익의 11%를 차지하여 2위 고객으로 달성함[대만 2,411억 5천만 달러 - 미국 7...
    Date2024.03.02 소식 By블레이더영혼 Reply1 Views680 file
    Read More
  2. 펜티엄 3 슬롯의 패키지 위에 붙은 씰은 진짜 다이의 사진

    펜티엄 3 카트마이의 슬롯형 패키지에 붙어있는 다이 씰은 진짜 펜티엄 3의 다이라고 합니다. 다만 완벽하게 똑같은 건 아닙니다. 일부는 가공이 된건지, 초기 단계에서는 저게 맞았는데 나중에 바뀌었을 수도 있습니다.
    Date2024.03.02 소식 By낄낄 Reply12 Views2085 file
    Read More
  3. No Image

    지포스 RTX 4060 Ti 시리즈의 가격 하락

    일부 지포스 RTX 4060 Ti가 저렴한 가격에 팔리고 있습니다. 16GB 모델은 429.99달러, 8GB 모델은 345.99달러에도 나왔다고 하네요. 라데온이 신제품이 나오고 가격을 인하하니 거기에 맞춘건지, 아니면 판매 사이트의 프로모션인지는 모...
    Date2024.03.02 소식 By낄낄 Reply1 Views936
    Read More
  4. No Image

    지포스 GTX 16 시리즈의 NVENC 인코딩 문제 해결 핫픽스 드라이버

    지포스 GTX 16 시리즈의 NVENC 인코딩 문제 해결 핫픽스 드라이버인 551.68이 나왔습니다. 지포스 GTX 1630, 1650, 1650 Ti가 여기에 해당되며, 이전 버전의 드라이버에서는 GPU 인코더를 사용할 경우 동영상이 손상되거나 오류가 발생했...
    Date2024.03.02 소식 By낄낄 Reply2 Views566
    Read More
  5. 기가바이트, DP 2.1 포트 탑재 OLED 게이밍 모니터

    기가바이트 어로스 F032UP2 게이밍 모니터입니다. 31.5인치, 삼성 QD-OLED 패널, 4K 해상도, 240Hz 주사율, DP 2.1을 탑재해 UHBR20 대역으로 전송이 가능합니다.
    Date2024.03.02 소식 By낄낄 Reply0 Views395 file
    Read More
  6. MSI, 지포스 RTX 4070 Ti 슈퍼의 엑스퍼트와 에어로 카드 출시

    MSI, 지포스 RTX 4070 Ti 슈퍼의 엑스퍼트 버전과 에어로 그래픽카드를 출시했습니다. 엑스퍼트는 상위 모델에서 썼던 푸쉬 풀 디자인 쿨러가 탑재됩니다. 에어로는 블로워 팬을 씁니다.
    Date2024.03.02 소식 By낄낄 Reply1 Views352 file
    Read More
  7. 레노버 ThinkVision M14T Gen 2 휴대용 모니터

    레노버 ThinkVision M14T Gen 2 휴대용 모니터입니다. 14인치 화면 크기, 60Hz 주사율, 2240x1440 해상도의 16:10 비율, 최대 밝기 300니트, 4096단계 필압 감지와 10점 멀티 터치, 가로/세로 방향 자동 감지, sRGB 100% 색영역, 1500:1 ...
    Date2024.03.02 소식 By낄낄 Reply2 Views646 file
    Read More
  8. Groq의 LPU 추론 엔진. GPU보다 빠름

    Groq의 LPU 추론 엔진이 탑재된 카드입니다. GPU보다 빠르게 LLM 대규모 언어 모델을 처리하도록 설계됐습니다. 오직 LLM에만 초점을 맞췄기에 효율도 높다고 하네요. 1개의 단어당 필요한 계산 시간을 줄이고 텍스트 시퀸스를 빠르게 생...
    Date2024.03.02 소식 By낄낄 Reply0 Views852 file
    Read More
  9. AMD A620A 칩셋 메인보드 등장

    바이오스타 A620MH 오로라 메인보드입니다. AMD A620A 칩셋을 썼다고 하네요. 박스에도 A620A라고 써져 있고요. B550 칩셋(Promontory 19 PCH)과 똑같은 다이를 사용하고, AM5 소켓과 DDR5 메모리를 지원하지만 PCIe 4.0은 없고 PCIe 3.0...
    Date2024.03.02 소식 By낄낄 Reply14 Views1564 file
    Read More
  10. 인텔, FPGA 사업부 전담의 독립 개발사 설립(Altera - 알테라)

    ▶ 인텔, FPGA 사업부의 독립 개발사 출범(Altera - 알테라) - CEO : 산드라 리베라[전임 '데이터센터 & AI(인공지능)' 그룹 사업부 총괄 책임자 겸 EVP) - COO : 샤논 풀린(전임 '프로그래밍 솔루션' 그룹 총괄 책임자 겸 CVP)   ☞ ...
    Date2024.03.01 소식 By블레이더영혼 Reply3 Views1409 file
    Read More
  11. (해결) USB C타입 케이블 중엔 전력 공급만 따로 해주는 케이블은 없는 걸까요?

      옛날 USB 2.0/3.0 시절 외장하드를 사면 들어있던 기본 케이블에는 이렇게 통신하는 메인 USB와 전력만 공급해주는 USB가 같이 있어서 불안정한 전력 공급을 보충해 주는 케이블이 있었는데요, 이것처럼 컴퓨터에 꽂는 부분에 전력을 ...
    Date2024.03.01 질문 Bytitle: 민트초코마초코 Reply6 Views747 file
    Read More
  12. AMD(Advanced Micro Devices), 시가 총액이 3,000억 달러를 돌파함

    ▶ AMD - 소비자 마케팅 부문 시니어 디렉터(Saša Marinković)의 트윗에서 밝힘 - AMD 회장 겸 CEO(닥터 리사 수 회장) : 2014년 10월 8일에 AMD의 '사장 & CEO'로 취임 - 2014년 10월 8일 기준(AMD 주식) : 주당 3달러에 거래됨 - 20...
    Date2024.03.01 소식 By블레이더영혼 Reply6 Views771 file
    Read More
  13. No Image

    삼성전자, 반도체 초미세공정 게임 체인저 ‘후면전력공급’ 기술 상용화 눈앞

    28일 업계에 따르면 삼성전자가 개발 중인 후면전력공급 기술이 초기 단계에서 목표치를 뛰어넘는 지표를 달성한 것으로 확인됐다. 삼성전자는 2개의 서로 다른 ARM 코어를 사용해 칩 면적을 각각 10%, 19% 줄였으며, 칩 성능과 주파수 효...
    Date2024.03.01 소식 By낄낄 Reply3 Views1424
    Read More
  14. 히타치 LG 데이터 스토리지, SK 하이닉스 튜브 T31을 출시

    SK 하이닉스의 글로벌 대리점인 히타치 LG 데이터 스토리지가 USB 메모리 드라이브인 튜브 T31을 일본과 한국에 출시했습니다. 10Gbps의 전송 속도가 특징입니다. 제품 자체는 별 거 없는데, 제품 하나에 도대체 회사 이름이 몇 개가 붙는...
    Date2024.03.01 소식 By낄낄 Reply7 Views905 file
    Read More
  15. No Image

    라데온 RX 7900 GRE 오버클럭이 제한된 버그가 있음

    라데온 RX 7900 GRE의 오버클럭이 제한된 버그가 있다고 합니다. AMD는 이를 확인했으며 곧 해결할 예정입니다.
    Date2024.03.01 소식 By낄낄 Reply0 Views368
    Read More
목록
Board Pagination Prev 1 ... 58 59 60 61 62 63 64 65 66 67 ... 1968 Next
/ 1968

최근 코멘트 30개
렉사
00:50
슈베아츠
00:47
포도맛계란
00:38
포도맛계란
00:36
강제
00:34
디이나
00:33
BEE3E3
00:30
낄낄
00:20
포인트 팡팡!
00:16
임시닉네임
00:16
메이드아리스
00:15
메이드아리스
00:13
디이나
00:12
낄낄
00:10
유니
00:08
NureKarasu
00:06
리키메
00:05
포인트 팡팡!
00:05
NureKarasu
00:05
영원의여행자
23:51
영원의여행자
23:50
nsys
23:44
급식단
23:34
강제
23:32
360Ghz
23:31
마초코
23:27
슈베아츠
23:21
이계인
23:19
부천맨
23:18
유니
23:17

더함
한미마이크로닉스
AMD
MSI 코리아

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소