Skip to content

기글하드웨어기글하드웨어

컴퓨터 / 하드웨어 : 컴퓨터와 하드웨어, 주변기기에 관련된 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.

Extra Form

YoLo라고.. you look once 인지 하는 프로그램이 있습니다

 

사물인식 하는 딥러닝 프로그램인데 이게 현재는 gtx 1080 정도에서 제가 원하는 속도로 돌아갑니다

 1080대신 fpga를 써서 소형화된 sbc같은걸로 실행 가능할지 싶어서 기글 고수 분들에게 질문 드립니다

 

 

당연히 해봐야 아는거겠지만, 특정연산만 반복한다면 fpga로 저전력으로 수행할 수 있지 않을까해서요

(비트코인의 연산이 그래픽 카드에서 fpga로, 결국 asic로 간것 처럼..)

 

목표는 요겁니다

 

https://youtu.be/9fa9lVwHHqg

 

 

이정도는 아니겠지만 25cm 짜리 드론에다가 설치 할만큼 저전력/소형화가 가능할지 궁금하네요 

 

푸로그램의 f도 모르는 무지렁이라 기글 형님들의  고견이 듣고 싶어요



  • profile
    360Ghz      case kill mark: BQ SB 802 white, CM H500m qube 500 FP, 3r L600/700/900/... 2023.03.29 07:13
    그...렇기는한데, yolo 모델 등이 필요한 환경이 어느정도 연산력인지 구글 코랄 같은걸로 테스트하고 올려보시는걸 추천합니다.
  • ?
    babozone 2023.03.29 10:10
    넵 코랄로 한번 되는지 알아보겠습니다!!
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2023.03.29 09:44
    18-19년도인가 fpga에 yolov2 올려서 납품되는거 본적 있습니다.

    허지만 fpga가 너무 컷다는.. 그냥 최근 tiny모델 half precision 변환해서 쓰시는게 나을것 같군요
  • ?
    babozone 2023.03.29 10:08
    그냥 싸게싸게 젯슨 나노로 가야겠네용...의견 감사합니다!!
  • profile
    폴짝쥐 2023.03.29 09:48
    네 가능하지만 그걸 위해 FPGA를 쓰시는 것보단
    NPU 달린 락칩 같은 소형 보드를 쓰시거나
    Google Coral TPU를 쓰시는 게 더 현실적인 솔루션일 것 같습니다
  • ?
    babozone 2023.03.29 10:09
    이런게 있었네요!!!
    역시 기글의 집단지성!!!
  • profile
    ForGoTTen      결제중.... 2023.03.29 10:27
    제가 예전에 darknet quzntization해서 NPU로 포팅하는 팀에서 모델 분석했었습니다.

    일단 가장 중요한 부분은 어떤 프레임워크를 골라야 하냐는 것 입니다. Yolo의 저자들은 자체적으로 darknet이라는 프레임워크를 C로 만들어서 구현했지만, cudnn과 같은 API로 작성되어 있기 때문에 수정이 힘들며 PyTorch, TensorFlow같은 범용 프레임워크로 만들어진 Yolo모델의 포팅 버전을 사용하는것도 한 방법입니다.

    두번째로 CNN에서는 모델과 더불어 입력되는 이미지의 크기가 정말 중요합니다. CNN모델의 특성상 가중치는 작아도 큰 입력을 처리할 수 있기 때문에, 256x256 정도 되는 작은 크기 이미지를 처리할 때는 문제가 없어도, 1024x1024같이 이미지가 커지면 메모리와 추론성능 둘 다 문제가 될 수 있습니다.

    마지막으로 성능관련은 정말 다양한 파라미터를 고려해야 하는데요. 1080정도 수준을 SBC에서 내기는 쉽지 않습니다. 이미 GPU자체의 H/W peak FLOPS 성능이 아키텍처 차이를 고려하더라도 20배 정도 나는 상황이라서 단순히 jetson nano로 올린다고 하면 충분한 성능을 내지 못 할 것 입니다. 단순 깡성능(?)으로 1080급을 내려면 젯슨 Orin정도는 되어야 하니까요....
  • profile
    ForGoTTen      결제중.... 2023.03.29 10:34
    가중치를 표현하고 있는 값을 낮춰서 low-precision으로 바꾸어 사용하는 방법을 quantization이라고 합니다.

    대부분 딥러닝 모델은 학습을 FP32로 하고, 실제 추론 과정에서 사용시에는 FP32보다 좀 덜 정밀해도 충분한 결과가 나오기에 FP16이나 INT8같은 데이터타입을 사용하는 것이 하나의 추세이지요.

    대부분의 NPU의 경우 FP32가 아닌 FP16, INT8~4 정도의 low-precision 데이터타입만을 지원하기에, coral같은 외장 NPU를 사용하던 tensor core같은 내부 NPU를 사용하던 GPU외 가속기를 사용한다면 quantization은 필수적입니다. 이 부분을 8 bit로 NVIDIA의 논문을 사용해 구현한 yolo2 light가 있으니 참고해 보셔도 될 것 같습니다.

    물론 quantization시 이런저런 요소들로 인하여 추론의 정확도는 좀 떨어집니다.
  • profile
    ForGoTTen      결제중.... 2023.03.29 10:38
    결론적으로 darknet 그 자체를 수정없이 원하는 수준으로 동작하려면 젯슨 Orin정도는 있어야 함

    두번째로 FPGA던 NPU던 Tensor Core던 사용하기 위해서는 quantization이 필수, 이 때는 darknet외의 다른 프레임워크 구현체로 방향을 바꾸는 것이 좋음
  • ?
    babozone 2023.03.29 12:07
    압도적...감사....!
    블로그 검색해보면서 열심히 배워보겠습니다 ㅎㅎ
    올해 목표가 생겼네요
  • ?
    진외자 2023.03.29 11:12
    오, 역시 현업분의 노하우!!! 멋지네요!
  • profile
    DecAF 2023.03.29 12:08
    킹론상 FPGA로 할 수는 있지만 하드웨어 비용 + 개발기간 등등 따져보면 젯슨 나노나 오드로이드 M1이 정신건강상 편합니다.
    저는 비슷한 프로젝트 할때 SBC에서 돌리기 포기하고 그냥 영상 촬영만 해서 AWS에 영상 전송하고 구축한 AWS서버에서 YOLO처리 후 결과 데이터만 보드에서 다시 받도록 만들었습니다.
  • ?
    babozone 2023.03.29 14:34
    의견 감사합니다!
    통신을 못하는 상황에서도 작동 가능하도록 하는게 목표긴 한데..검토해봐야겠네요 ㅎㅎ
  • ?
    김경철 2023.03.29 13:10
    드론에 달아서 딥러닝 모델 돌리시려면 아마도 이런거 쓰시면 좋지 않을까 합니다.

    https://www.modalai.com/en-kr/pages/voxl-2

    기본적으로 px4 autopilot 돌아가고, 추가적으로 tensorflow-lite로 이것저것 넣을 수 있다고 합니다.
  • ?
    babozone 2023.03.29 14:31
    넘모...비싸네요 ㅠ
    Loitering munition으로 활용가능할지가 궁금해서 만들어보는거라.. 아슬아슬한 수준의 스펙의 제품으로 드론을 구성해보려고 합니다
    의견 감사해요!!
  • profile
    title: 야행성para77 2023.03.29 16:01
    딥러닝되는 자폭드론 컨트롤러가 2천달러면 싼거아닌가요?
  • ?
    babozone 2023.03.29 16:56
    라즈베리파이 (15만)
    Matek controller (15만)
    Coral edge tpu (15만)
    요거 3개 합치면 반의 반값!!
    반대로 제가 만들어서 수출하고 싶네요 ㅎㅎㅎ
  • ?
    webos115 2023.03.29 17:05
    하나로 해결 가능한 Tinker Edge R도 있습니다 ㅎㅎ
  • ?
    webos115 2023.03.29 13:11
    NPU 자체 내에서 다크넷이나 욜로를 직접 지원하는 RK3399 Pro 락칩 계열 SBC도 괜찮은 편입니다.
    Tinker Edge R 같은 제품들이 있습니다.
  • ?
    babozone 2023.04.06 08:20
    현재 라즈베리파이 +코랄로 돌리는 중인데 역시 너무 거추장 스럽네요.. 2호기 민들때 참고하도록 하겠습니다!!!

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


  1. 지포스 RTX 4060 Ti의 박스 탬플릿 유출

    지포스 RTX 4060 Ti의 박스 탬플릿이 유출됐습니다. RTX 40 시리즈의 공통 기능만 있지 중요 스펙에 대해선 나와 있지 않습니다.
    Date2023.03.30 소식 By낄낄 Reply1 Views526 file
    Read More
  2. No Image

    지포스 RTX 4050은 6월에 출시?

    지포스 RTX 40 시리즈 데스크탑 그래픽카드 보급형 모델의 출시 일정 소문입니다. 지포스 RTX 4060 Ti는 5월 말 지포스 RTX 4050은 6월 지포스 RTX 4060은 아직 정해지지 않았다고 합니다. 그리고 4050의 비디오 메모리는 6GB라네요. RTX ...
    Date2023.03.30 소식 By낄낄 Reply4 Views566
    Read More
  3. No Image

    PC용 DDR4 메모리 최저가, 2만원대 깨졌다

    8GB 제품 최저가 29일 1만9천원대로 떨어져..."하락세 지속 전망" 국내 PC 시장에서 데스크톱 PC용 DDR4 메모리 모듈 가격이 연일 최저가를 갱신하고 있다. 전통적인 PC 비수기에 올 초부터 두드러진 PC 수요 감소 등으로 재고 압박이 이...
    Date2023.03.29 소식 Bytitle: 가난한카토메구미 Reply12 Views1561
    Read More
  4. No Image

    FPGA를 쓰면 다크넷 YOLo를 빠르게 실행가능할까요??

    YoLo라고.. you look once 인지 하는 프로그램이 있습니다   사물인식 하는 딥러닝 프로그램인데 이게 현재는 gtx 1080 정도에서 제가 원하는 속도로 돌아갑니다  1080대신 fpga를 써서 소형화된 sbc같은걸로 실행 가능할지 싶어서 기글 ...
    Date2023.03.29 질문 Bybabozone Reply20 Views1547
    Read More
  5. No Image

    지포스 RTX 4060 Ti/4060이 5월 출시?

    지포스 RTX 4060 Ti/4060이 5월에 출시될 거라고 합니다. RTX 4070은 4월 13일 출시니까 한달 정도 텀을 두네요. 4060 Ti는 AD106-350-A1 컷칩을 사용하며, 4352개의 쿠다 코어, 128비트 메모리 버스, 18GBps 8GB GDDR6 메모리, 32MB L2 ...
    Date2023.03.29 소식 By낄낄 Reply9 Views974
    Read More
  6. MSI A620 메인보드가 유럽에 87유로로 등록

    MSI A620 메인보드가 유럽에 87유로로 등록됐습니다. 한화 12만원 쯤 되니 싸긴 하네요. 다만 제품명과 가격만 있고 사진도 없습니다. 심지어 제목에 LGA 1700이라고 써놔서 이걸 다 믿기는 좀 힘들어 보입니다.
    Date2023.03.29 소식 By낄낄 Reply1 Views506 file
    Read More
  7. Puget Systems의 2022년 하드웨어 동향

    고성능 워크스테이션/커스텀 PC를 판매하는 Puget Systems에서 2022년에 납품한 하드웨어의 동향 보고서입니다. 클라이언트 CPU의 경우 2021년에는 라이젠이 우세하다가 2022년 들어 인텔 우세로 바뀌었습니다. 12세대 코어 프로세서가 딱...
    Date2023.03.29 소식 By낄낄 Reply3 Views533 file
    Read More
  8. NVIDIA, AI를 써서 최대 30배 빠르게 칩 설계를 최적화하는 AutoDMP

    AI를 써서 최대 30배 빠르게 칩 설계를 최적화하는 AutoDMP에 대해선 GTC 2023 발표 때 짧막하게 소개했는데요. NVIDIA가 더 자세하게 쓴 글이 있네요. 현대의 칩은 특정한 기능을 지닌 블럭 단위로 구성됩니다. 이런 매크로는 디지털 칩 ...
    Date2023.03.29 소식 By낄낄 Reply9 Views1896 file
    Read More
  9. DRAM 평균 판매 가격이 올해 2분기에 10~15% 하락

    트렌드포스는 마이크론과 SK 하이닉스 같은 여러 메모리 공급사가 DRAM 생산을 줄이기 시작했다고 밝혔습니다. DRAM의 평균 가격은 2023년 1분기에 20%가 줄었고, 2분기에는 10~15% 떨어질 것으로 예측됩니다. 하반기에 더 나아질거라는 ...
    Date2023.03.29 소식 By낄낄 Reply0 Views475 file
    Read More
  10. 애즈락, 랩터레이크-P 탑재 팬리스 미니 PC

    애즈락 인더스트리얼이 랩터레이크-P 프로세서를 탑재한 팬리스 미니 PC인 iEP-7020E 시리즈를 발표했습니다. 생긴 것만 봐도 아시겠지만 산업용 제품입니다. 코어 i7/i5 장착, DDR4-3200 듀얼채널 SO-DIMM 64GB 메모리 지원, iEP-7020E-...
    Date2023.03.29 소식 By낄낄 Reply0 Views684 file
    Read More
  11. 인텔, 4달만에 아크 프로 드라이버 출시

    인텔 아크 프로 시리즈 그래픽카드는 작년 8월에 발표하고, 12월 5일에 드라이버를 공개한 이후 딱히 업데이트가 없었습니다. 그런데 4달만에 새 아크 프로 드라이버가 나왔네요. 원래 워크스테이션 그래픽카드는 업데이트가 좀 뜸한 편이...
    Date2023.03.29 소식 By낄낄 Reply0 Views468 file
    Read More
  12. No Image

    [설문] 키보드 키 어디까지 외우시나요? 외

    1. 국내 정식 수입된 Logitech K120 New 기준, 키를 (한글 전체 / 로마자 전체 / Shift 조합 특수문자 / 방향키 위 기능키들 9개 / 넘패드 기능키를 포함한 106 키 전체) 외웠다 /* 기준으로 삼은 키보드는 전형적인 한글 106 키 키보드입...
    Date2023.03.28 질문 Bytitle: 컴맹임시닉네임 Reply18 Views715
    Read More
  13. 인텔 아크 배틀메이지, 2개의 쉐이더, 2배의 캐시, TSMC 4nm

    인텔의 차세대 아크 그래픽인 배틀메이지에 대한 소문입니다. 여기에서 가장 큰 GPU인 MBG-G10은 TSMC 4nm EUV 노드로 생산하며, 지포스 RTX 4080의 AD103과 비슷한 크기로 뽑힌다고 합니다. Xe 코어 수는 32개에서 64개로 늘어나, EU가 1...
    Date2023.03.28 소식 By낄낄 Reply6 Views1091 file
    Read More
  14. 인텔 NUC 13 프로, 아레나 캐년 발표

    인텔 NUC 13 프로, 아레나 캐년이 발표됐습니다. 4x4인치 크기, DDR4-3200 64GB 듀얼채널 메모리, 13세대 코어 i7 모바일 프로세서까지 지원, PCIe 4.0 x4 NVMe SSD 지원, 2.5Gbps의 인텔 i226 이더넷, WiFi 6E/블루투스 5.3, HDMI 2포트,...
    Date2023.03.28 소식 By낄낄 Reply3 Views922 file
    Read More
  15. 300mm 웨이퍼 확장은 올해 줄었다가 2026년에 최대치

    SEMI의 300mm 웨이퍼 팹 보고서입니다. 300mm 웨이퍼를 생산하는 팹은 계속해서 늘어나고 있으나 올해 그 성장치가 둔화될 것으로 예상됩니다. 하지만 현 시점에서, 그리고 앞으로도 한동안은 가장 큰 웨이퍼기에 성장세를 되찾아 2026년...
    Date2023.03.28 소식 By낄낄 Reply0 Views436 file
    Read More
목록
Board Pagination Prev 1 ... 233 234 235 236 237 238 239 240 241 242 ... 1923 Next
/ 1923

최근 코멘트 30개
씨퓨
22:19
슈베아츠
22:19
아스트랄로피테쿠스
22:18
투명드래곤
22:16
타미타키
22:13
노예MS호
22:11
아스트랄로피테쿠스
22:10
노예MS호
22:08
아이들링
22:08
TundraMC
22:06
dmy01
22:04
강제
21:57
강제
21:56
archwave
21:56
수중생물
21:51
Lynen
21:50
Lynen
21:47
Lynen
21:46
스와마망
21:44
FactCore
21:38
FactCore
21:36
FactCore
21:36
BEE3E3
21:30
뚜까뚜까
21:30
cowper
21:29
코알라
21:28
강제
21:26
아스트랄로피테쿠스
21:26
임시닉네임
21:26
강제
21:26

AMD
더함
한미마이크로닉스
MSI 코리아

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소