Skip to content

기글하드웨어기글하드웨어

인터넷 / 소프트웨어 : 윈도우즈, 리눅스, 기타 운영체제, 각종 어플리케이션, 프로그램, 소프트웨어, 인터넷, 인터넷 서비스에 대한 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.

Extra Form
참고/링크 https://twitter.com/tonymongkolsmai/stat...2486583433

인텔 NPU에서 컴팩트 AI를 실행하는 NPU 가속 라이브러리가 오픈 소스로 제공됩니다. 인텔 소프트웨어 아키텍트에 의하면 Gemma-2b나 TinyLlama 같은 소형 언어 모델을 로컬에서 실행할 수 있다고 합니다. 아래는 코어 울트라가 탑재된 MSI 프리스티지 16 AI 노트북에서 실행한 결과입니다. 

 

INTEL-NPU-TEST.jpg

 


TAG •

  • profile
    title: 가난한까마귀      잠을 미루는 건 내일이 오지 않길 바래서야. 2024.03.03 21:56
    이건 또 재밌군요
    물론 10개 모아도 엔당 플래그쉽 하나만 못할 느낌이지만요
  • profile
    title: 몰?루스와마망      어-흥! 장난이야! 2024.03.04 03:57
    시스템메모리까지 끌어써야되니 메인스트림이나 로우엔드 중간쯤일것같습니다
  • ?
    title: 부장님Neons 2024.03.04 03:07
    고만고만한 정확도에 적절한 응답속도 - 짧은 질문에 대해 100ms / 토큰 정도만 해도 그럭저럭 상용 서비스 비슷한 느낌으로 쓸 순 있거든요.
  • profile
    title: 저사양Colorful 2024.03.04 14:01
    적당한 품질의 온디바이스 AI가 필요한곳이면 정말 쓸만하지 않을까 생각합니다.
  • ?
    NPU 2024.03.07 18:48
    Gemma 2B 성능이 어느정도 나올지 궁금하네요

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


  1. No Image

    애플, 에픽의 개발자 계정을 정지

    에픽 게임즈는 애플이 Epic Games Wednesday AB의 개발자 계정을 정지시켰다고 밝혔습니다. 그래서 iOS 디바이스용으로 에필 게임즈 스토어를 개발할 수 없게 됐다고 하네요. https://www.epicgames.com/site/en-US/news/apple-terminated...
    Date2024.03.07 소식 By낄낄 Reply8 Views1072
    Read More
  2. 최초로 IQ 100을 돌파했다는 인공지능

              --------------------------------------- 출처는 maximumtruth 입니다   ---------------------------------------                   스스로 최고 신뢰라니 도리어 의심이 가긴하지만..                   이것은 잼민이도 인...
    Date2024.03.07 소식 By고자되기 Reply4 Views1569 file
    Read More
  3. 윈도우에 압축 기능을 팔아서 콜벳 스포츠카를 산 개발자

    Dave W Plummer는 윈도우 98 플러스 버전에 추가된 압축 폴더 기능을 개발한 사람입니다. 1993년부터 zip 폴더 탐색을 위한 쉘 확장을 만들고 이를 윈도우 95의 인터페이스에 적용했습니다. 나중에는 비주얼ZIP이라는 쉐어웨어로 출시됩니...
    Date2024.03.07 소식 By낄낄 Reply18 Views2581 file
    Read More
  4. No Image

    NZXT 크라켄 수냉 쿨러의 제어 프로그램을 직접 만듬

    라이젠 7 3700X에서 라이젠 9 5950X로 업그레이드했다가, NZXT 크라켄 X53 240mm 수냉 쿨러의 소음을 참을 수가 없어서 직접 손을 썼다는 글입니다. 라디에이터 팬은 CPU 온도에 따라 오락가락하는데, 클럭이 급격하게 변하면 거기에 맞춰...
    Date2024.03.07 소식 By낄낄 Reply5 Views615
    Read More
  5. 엔비디아, 변환 레이어를 통해 타사 플랫폼에서 Cuda사용 하는것을 제한 할 예정

            NVIDIA의 CUDA(Compute Unified Device Architecture)는 오랫동안 GPU 가속 소프트웨어 개발을 위한 사실상의 표준 프로그래밍 인터페이스였습니다.    수년에 걸쳐 NVIDIA는 CUDA를 중심으로 전체 생태계를 구축하여 선도적인 GP...
    Date2024.03.06 일반 Bybabozone Reply30 Views3323 file
    Read More
  6. No Image

    마이크로소프트, 윈도우11 WSA 지원 중단.

    윈도우 11의 WSA에 탑재된 MS 스토어 및 아마존 앱스토어에서 더이상 관련된 앱을 검색할 수 없습니다. 개발자는 해당 앱들을 업데이트 할 수 있지만 새 앱의 게시는 불가능 합니다.   또한, 내일(3월 6일)부터 윈도우 11 사용자는 “아마...
    Date2024.03.06 소식 Bytitle: 가난한카토메구미 Reply31 Views2566
    Read More
  7. No Image

    EU, 스포티파이에게 반경쟁 행위를 저질렀다며 애플에 20억 달러 벌금 부과

    EU가 애플에게 18억 유로의 벌금을 부과했습니다. 아이폰과 아이패드 사용자에게 음악 스트리밍 앱을 배포하는 시장에서 지배적인 지위를 남용해, 스포티파이를 비롯한 대안을 알리지 못하도록 제한했다는 이유에서입니다. 애플은 스포티...
    Date2024.03.06 소식 By낄낄 Reply5 Views500
    Read More
  8. 사기앱 추가 적발

    국내 금융사 앱으로 위장한 사기앱 유포가 추가로 확인되었습니다.    
    Date2024.03.05 소식 Bytitle: 명사수까르르 Reply5 Views1282 file
    Read More
  9. No Image

    Claude 3 Opus Ai, 본인(?)이 테스트 당하고 있다는것을 눈치챔.

    Claude 3 Opus에 대한 내부 테스트의 재미있는 이야기가 있습니다. 건초 더미에서 바늘 찾기 평가를 실행할 때 이전의 LLM에서 볼 수 없었던 것을 해냈습니다.   배경 설명을 위해 이 테스트는 무작위 문서 모음('건초 더미')에 목표 문장...
    Date2024.03.05 소식 Bytitle: 가난한카토메구미 Reply5 Views2761
    Read More
  10. No Image

    스택 오버플로우, LLM에 대한 반응 + AI용 유료 API 추가

    https://stackoverflow.blog/2024/02/29/defining-socially-responsible-ai-how-we-select-api-partners/   스택 오버플로우에서 어느 코딩글을 썼는지 찾을수 있는 API를 제공하기 시작했습니다. 또한 이 API를 쓰려면 돈을 내야 합니다....
    Date2024.03.04 소식 Bytitle: 폭8책읽는달팽 Reply1 Views795
    Read More
  11. No Image

    위키피디아, CNET을 믿을 수 있는 소스로 취급하지 않음

    CNET이 AI 생성 기사를 만들기 시작하면서 생긴 논란 중 하나입니다. 위키피다아는 더 이상 CNET을 믿을 수 있는 소스로 취급하지 않겠다고 하네요. CNET이 AI를 써서 자동으로 만들어낸 기사 중에는 오류와 표절이 가득했고, 이를 토대로...
    Date2024.03.04 소식 By낄낄 Reply3 Views1092
    Read More
  12. 인텔 NPU에서 컴팩트 AI를 실행하는 가속 라이브러리

    인텔 NPU에서 컴팩트 AI를 실행하는 NPU 가속 라이브러리가 오픈 소스로 제공됩니다. 인텔 소프트웨어 아키텍트에 의하면 Gemma-2b나 TinyLlama 같은 소형 언어 모델을 로컬에서 실행할 수 있다고 합니다. 아래는 코어 울트라가 탑재된 MS...
    Date2024.03.03 소식 By낄낄 Reply5 Views822 file
    Read More
  13. 윈도우 환경에서 애플TV 사용하기(애플 지불방법 추가 오류 해결)

    저는 그저 듄을 고화질로 보고 싶었을 뿐이었는데 네이버에서 4400원을 주고 구입한 영상은 해상도가 1080p에 비트레이스조차 낮은건지 처참한 품질을 보고 결국 애플TV를 이용하게 되었네요. (화질도 안좋으면서 400원 더 비싸게 받은 ...
    Date2024.03.03 일반 By가네샤 Reply9 Views846 file
    Read More
  14. KDE 6에 추가된 기능 (GNOME에는 없음)

    무려 마우스 스크롤 속도 조절 기능이 추가 되었습니다! (우와 엄청나요!!! 윈도 제어판에는 당연히 있는 기능이지만, 리눅스에서는 없던 기능이 드디어 추가 되었군요!)     가상 데스크톱을 큐브 화면으로 보는 기능이 추가 되었습니다...
    Date2024.03.03 일반 By부녀자 Reply11 Views790 file
    Read More
  15. Wireguard 내부망 접속 안되는 문제

    네트워크 구조가 위와 같습니다. 그림의 공유기1 아래의 PC에서 공유기2 아래에 있는 NAS에 VPN을 이용해 SMB로 접속하려고 하니까 접속이 되질 않습니다. SKT LTE로는 똑같이 VPN 연결하고 NAS에 내부IP로 접속하면 되는거로 봐서는 VPN...
    Date2024.03.03 질문 Bytitle: 야행성PARK_SU Reply0 Views525 file
    Read More
목록
Board Pagination Prev 1 ... 14 15 16 17 18 19 20 21 22 23 ... 585 Next
/ 585

더함
MSI 코리아
AMD
한미마이크로닉스

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소