Skip to content

기글하드웨어기글하드웨어

컴퓨터 / 하드웨어 : 컴퓨터와 하드웨어, 주변기기에 관련된 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.

Extra Form
참고/링크 https://pc.watch.impress.co.jp/docs/colu...89183.html

photo001_o.jpg

 

인간과 인공 지능(AI)이 소비하는 전력의 비교. 2018년 12월에 국제 학회 IEDM 2018의 튜토리얼 강연인 Emerging Device Technologies for Neuromorphic Computing에서 CNRS의 Damien Querlioz가 공개한 슬라이드. 

 

딥 러닝 기술이 인공 지능 (AI)과 머신 러닝의 비약적인 발전을 촉구하면서, 현재 컴퓨터 분야의 연구 개발자들에게 몹시 중요한 주제로 자리잡아가고 있습니다. 구글의 자회사인 딥마인드가 개발한 바둑 프로그램, 알파고가 2016~2017년에 바둑 프로 기사들을 상대로 승리를 거두면서, 딥 러닝의 개발 성과가 평범한 사람들과 AI 연구 개발자들에게 충격을 주었습니다.

 

가장 충격적이었던 건 2016년 3월의 대결입니다. 세계 최고 수준의 바둑 프로 기사인 이세돌과 알파고의 5회 대전에서 알파고가 4승 1패로 승리를 거두었습니다. 대국 전에는 바둑이나 컴퓨터 업계 모두 이세돌이 5전 모두 이기리라 예측했었지요.

 

바둑이란 게임의 실력으로는 컴퓨터가 인간을 넘어섰지만, 공학적으로 보면 알파고가 여전히 뒤쳐진 부분이 있습니다. 그건 소비 전력입니다. 알파고의 하드웨어는 다양한 CPU, GPU, ASIC로 구성되며, 2016년 3월의 경기에선 클라우드 컴퓨팅을 사용했습니다. 그 소비 전력은 250kW(25만 와트)를 넘어섰습니다. 이에 비해 인간의 뇌가 쓰는 전력은 20W에 불과합니다. 둘 사이에는 1만 배 이상의 차이가 있습니다. 

 

 

딥 러닝 하드웨어가 많은 전력을 소비하는 이유


딥 러닝의 기본 구조는 신경 회로망의 모방입니다. '인공 신경망'에 해당되지만 AI 업계에선 그냥 '신경망'이라고 부릅니다. 딥 러닝의 신경망은 DNN(Deep Neural Network)이라 부릅니다. 신경망은 뉴런의 각 층이 서로 연결된 네트워크입니다. 이 중에서 사이에 숨겨진 층이 2개 이상인 네트워크를 DNN이라고 부릅니다. 

 

DNN의 입력 층은 입력 데이터를 저장한 뉴런의 연결이며, 하나의 뉴런은 다음 층인 딥 레이어 뉴런과 연결됩니다. 여기서 중요한 건 가중치라 불리는 데이터로, 신경망에서는 시냅스라고 부릅니다. 뉴런 사이의 연결 부위에 해당됩니다. 숨겨진 레이어 뉴런과 연결된 입력 층 뉴런의 값과 가중치 악ㅄ을 곱하고, 그 모든 결과를 더해 특정 활성화 함수에 입력해 출력합니다.

 

photo002_o.jpg

 

이 알고리즘은 수학적으로 보면 그리 복잡하지 않습니다. MAC(Multiply and ACcumulation)과 그 결과의 활성화 함수 연산을 반복하는 과정입니다. 여기서 중요한 건 DNN의 출력 계층 데이터(학습이나 추론의 결과)를 결정하는 게 '가중치' 값이라는 겁니다. 즉 DNN을 사용한 학습은 가중치를 조정해 최적의 값을 도출해 내는 과정입니다. '학습'은 신경망의 출력 값과 예상 출력 값을 비교해 그 차이가 줄어들 때까지 각 층의 가중치 값을 업데이트합니다. 차이가 가장 줄어들었을 때 교육을 끝내고, 그렇게 얻은 가중치 값을 DNN을 사용한 추론에 사용합니다. 

 

photo003_o.jpg


DNN의 일반적인 하드웨어는 CPU, GPU, ASIC 등의 연산 회로와 버퍼 SRAM, 외부 DRAM 등 메모리 회로로 구성됩니다. 이런 구성의 하드웨어가 큰 전력을 사용하는 이유는 크게 두 가지입니다. 하나는 외부 DRAM에 액세스가 많다는 겁니다. DRAM에 가중치 값을 저장하고 불러오기에 DRAM의 액세스는 항상 발생합니다. DRAM 액세스는 CPU 레지스터 액세스보다 100배 더 많은 전력을 사용합니다.

 

다른 하나는 CPU와 GPU의 정밀도가 너무 높아서입니다. CPU와 GPU는 64비트 부동소수점 연산을 실행하지만, 딥 러닝은 8비트 정수 연산만으로 충분한 경우가 많습니다.

 

 

비휘발성 메모리 기술로 딥 러닝의 소비 전력을 낮추는 시도

 

그래서 소비 전력을 낮추기 위해 메모리 회로에 연산 기능을 통합하고, 메모리 회로와 연산 회로 사이의 거리를 줄이며, 연산 정밀도를 실용적인 범위 안에서 낮추려는 연구가 진행 중입니다. 

 

버퍼 메모리인 SRAM와 외부의 DRAM은 모두 휘발성 메모리며, 데이터를 유지하기 위해 리프레시 동작을 주기적으로 실행하면서 평균 소비 전력이 늘어납니다. 이걸 비휘발성 메모리로 대체하면 이론적으로 대기 상태에서 소비 전력이 0으로 떨어집니다. 그럼 평균 소비 전력이 줄어들겠지요. 또 전원을 꺼도 비휘발성 메모리에 데이터가 남아 있으니 기동과 리셋 등의 동작에 필요한 전력도 줄어듭니다. 

 

photo004_o.jpg

 

딥 러닝에서 각종 메모리 기술의 장점과 단점. Embedded Memory ~ Present status, architecture and technology for emerging applications에서 TSMC의 Eric Wang이 공개한 슬라이드. 

 

5월이 미국 캘리포니아 몬타 레이에서 열린 반도체 메모리 기술 국제 학회인 2019 IEEE 11th International Memory Workshop(IMW 2019))에서 비휘발성 메모리 기술로 저전력 딥 러닝 하드웨어를 실현하려는 연구 성과가 다수 공개됐습니다. 여기에서 발표된 비휘발성 메모리 기술은 저항 변화 메모리(ReRAM), 상변화 메모리 (PCM), 자기 저항 메모리(MRAM), 플래시 메모리입니다. 그리고 AI 하드웨어 아키텍처는 신경망 컴퓨팅 외에도 뉴로몰픽(생체신경모방) 컴퓨팅을 사용합니다. 

 

 

신경 회로망을 물리적으로 모방하는 뉴로몰픽 컴퓨팅


신경망 컴퓨팅은 신경 회로망의 기능과 구조를 모방하지만 하드웨어는 신경 회로망을 모방하지 않습니다. 극단적으로 말하면 신경망을 이용한 학습과 추론은 일반적인 컴퓨터 하드웨어 플랫폼과 응용 프로그램 중 하나일 뿐입니다. 그러나 보통의 컴퓨터 하드웨어에 비해 전력 효율이 너무 낮기에, GPU나 ASIC를 써서 전력 효율을 높이는 게 최근의 움직임입니다. 그 연장선상에 비휘발성 메모리 기술을 이용하려는 시도가 있습니다.

 

이에비해 뉴로몰픽 컴퓨팅은 하드웨어 자체가 신경 회로망을 구축합니다. 기본 요소는 뉴런과 시냅스입니다. 뉴런은 비선형 처리를 담당하고, CMOS 디지털 연산 회로나 아날로그 연산 회로로 실현합니다. 시냅스는 인접한 뉴런 사이의 결합 강도 (가중치)을 담당하고, 결합의 강도를 아날로그나 디지털 메모리에 저장합니다.

 

photo007_o.jpg

 

뉴로몰픽 컴퓨팅의 메모리 칩은 신경 회로망과 유사한 행렬(매트릭스) 형태로 메모리 셀 어레이를 배치한 구조를 채용하며, 옴의 법칙과 키르히호프 법칙을 이용한 덧셈 연산을 내장한 경우가 많습니다. 외형 구조는 신경망과 크게 다르지 ㅇ낳습니다.

 

시냅스의 역할을 하는 메모리 기술은 SRAM과 비휘발성 메모리가 있습니다. SRAM은 CMOS 로직과 같은 제조 기술로 만들 수 있다는 장점이 있습니다. 비휘발성 메모리는 SRAM보다 저장 밀도가 높고 소비 전력이 낮습니다.

 

 

ReRAM 기반으로 2백만개의 시냅스를 내장한 저전력 메모리

 

photo008_o.jpg


IMW 2019에서 파나소닉은 저항 변화 메모리(ReRAM) 기술을 기반으로 삼은 아날로그 메모리를 시냅스로 쓰고, MAC 연산을 내장한 뉴로몰픽 메모리를 개발해 RAND (Resistive Analog Neuromorphic Device)라고 불렀습니다. 2개의 ReRAM 셀에 1개의 시냅스를 구성하고, 2백만 개의 시냅스를 내장한 실리콘 다이를 180nm의 제조 기술로 만들었습니다. 실리콘 다이 면적은 12.6제곱mm, 전원 전압은 1.8V, 소비 전력은 15.8mW입니다. 소비 전력 당 연산 성능은 20.7TOPS/W로 꽤 높습니다.



PCM의 비선형성을 없애고 합습 정밀도를 향상

 

photo009_o.jpg

 

IBM Research와 ETH Zurich는 상변화 메모리 (PCM)을 DNN 가중치 메모리로 사용하는 딥 러닝 가속을 공동 개발합니다. 크로스바 형태로 배치한 PCM 셀 어레이에 가중치 값을 저장하기 전과 저장한 후에 특정 작업을 추가하면 PCM의 비선형성을 없앨 수 있다는 기술을 발표했습니다. 이로서 필기 인식 학습의 정밀도를 높일 수 있다고 합니다.

 


64Gbit의 3D 낸드 플래시에서 연속 읽기 내구성을 확인

 

photo010_o.jpg
 

저장 밀도가 가장 높은 비휘발성 메모리는 3D 낸드 플래시 메모리입니다. 3D 낸드 플래시 메모리는 싱글 다이의 저장 용량이 큽니다. 그래서 Macronix International은 3D 낸드 플래시 메모리를 엣지(단말기)의 추론 시스템에서 DNN 가중치 메모리로 활용하는 방법을 고안했습니다. 추론에선 플래시 메모리의 읽기 액세스가 계속 발생합니다. 이 경우엔 특정 메모리 셀을 읽지 못하는 불량이 나는 게 문제입니다.

 

Macronix International은 SLC 방식으로 용량이 64Gbit인 3D 낸드 플래시 메모리를 개발해 연속 읽기 수명을 측정했습니다. 그 결과 10의 13제곱에 달하는 연속 읽기가 가능하다는 결론이 나왔습니다. 실제 사용에선 10년 동안 쓸 수 있는 수명입니다. 


TAG •

  • ?
    hjk9860 2019.07.17 03:44
    알파고를 발전/개조시켜서 놋북에서 돌릴 수 있게하고 인간과 알파고 둘다 동일한 전력으로 재경기를 진행해보는것도 나름 재미있겠네요
    어쩌면 이게 더 공평하고요
  • profile
    쮸쀼쮸쀼 2019.07.17 09:28
    이런 종류의 인공지능 연산은 주로 신경망을 구성할 때 에너지를 많이 쓰기 때문에, 이미 신경망 추론학습이 끝난 알파고는 일반 컴퓨터에서도 돌릴려면 돌릴 수도 있는 것으로 압니다. 그리고 딥마인드는 바둑은 이미 인공지능이 정복했다고 보고 지금은 관련 개발을 종료했습니다. 이제는 스타크래프트 쪽에 눈을 돌린 상태죠.
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2019.07.17 10:08
    AlphaSatr가 DQN으로 사람의 한계수치의 APM으로도 충준히 사람을 압도.. 한다고 하죠..

    APM제한이 없으면 무조건 압도.
  • ?
    dmy01 2019.07.17 19:03
    아마 했었을껍니다 pc에서 돌아가는 버전
    프로기사들 떡 실신 시킨 거로 알고 있어요
  • ?
    마라톤 2019.07.17 07:30
    좋은 정보 감사합니다. ^_^
  • ?
    RuBisCO 2019.07.17 09:25
    문제는 접근 레이턴시는 어떻게 되는지 궁금하군요.
  • ?
    dmy01 2019.07.17 18:57
    고맙습니다
    요즘 뉴럴프로세싱유닛 탑재 이야기가 많은데 저런 것들이 들어가있다고 보면 되겠군요
    최고입니다
  • ?
    dmy01 2019.07.17 19:01
    근데 저거 완전 인텔 옵테인 메모리 이야기 아닌가요
    옵테인 메모리 레이턴시 엄청 낮을테니까 dram 대체도 용이할테고
  • profile
    OS_YKS 2019.07.17 19:57
    뉴런과 연결된 입력 층 뉴런의 값과 가중치 악ㅄ을 곱하고,
    외형 구조는 신경망과 크게 다르지 ㅇ낳습니다.
    오타가 있네요

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


  1. 지포스 RTX 3070을 8GB에서 12GB로 개조

    지포스 RTX 3070은 8GB 메모리가 탑재됩니다. 고장난 3070을 살리기 위해 2개의 칩을 죽이고 6GB로 만드는데 성공했습니다. 여기에서 한발 더 나아가 192비트 12GB로 늘리기로 했습니다. 삼성 16Gb 메모리 칩을 장착해서 인식시켰다고 하...
    Date2024.02.03 소식 By낄낄 Reply1 Views624 file
    Read More
  2. 애로우레이크-S, 하이퍼스레딩과 AVX512 없음

    애로우레이크가 하이퍼스레딩을 지원하지 않을 거라고 알려졌는데요. 다른 증거가 나왔습니다. 애로우레이크-S 24스레드 프로세서가 발견됐습니다. 8P+16E 구성에 하이퍼스레딩이 없다면 딱 24스레드가 나옵니다. 그리고 이 샘플은 3GHz에...
    Date2024.02.03 소식 By낄낄 Reply1 Views625 file
    Read More
  3. No Image

    설마 글카가 뒤질려고한건 아니겠죠?

    오늘 앱플레이어를 굴리다 갑자기 엄청 버벅거리다 순간 프리징된후 그래픽이 좀깨졌고 그후 다른게임(메이플)에 한번 번졌습니다.    캡쳐할일이 생겨서 prtsc버튼으로 전채화면 캡쳐를 할려고하면 그래픽 깨진게 같이잡히더라구요 일단...
    Date2024.02.03 질문 Bytitle: 몰?루스와마망 Reply8 Views385
    Read More
  4. 하드 복사기 (NEXT-M2288DCU3)

    SATA 하드 복사기만 사용중 NVMe SSD가 주류가 되어 새로 장만했습니다.       상판은 아크릴 재질인데 제거해야 하는 보호 비닐로 덮여 있습니다. 상품 후기에 보호비닐의 상처를 중고제품으로 착각하고 성토하는 글이 많더군요. 제조사...
    Date2024.02.02 일반 Bytitle: 저사양아라 Reply6 Views709 file
    Read More
  5. QNAP, 'RYZEN(라이젠) 임베디드 7000 CPU' 탑재 기반 '30 베이 SATA-SSD NAS' 서버랙 출시

    ▶ QNAP, AMD 'RYZEN(라이젠) 임베디드 7000' CPU 탑재 기반의 SATA-SSD NAS' 서버랙 출시 - 모델명 : TS-H3077AFU - 드라이브 베이 개수 : 30 베이(ZFS 기반 전체 플래시 NAS) - 드라이브 최대 탑재 용량 : 1개 베이 당 7.68TB(SSD) * 30...
    Date2024.02.02 소식 By블레이더영혼 Reply0 Views621 file
    Read More
  6. Aetina, 엔비디아의 신규 임베디드 MXM 타입 GPU 발표(에이다 러브에이스 MXM GPU)

    ▶ Aetina(엣지-AI 솔루션 벤더사), 엔비디아 '에이다 러브에이스' 기반 임베디드 GPU 탑재 제품 공개 - 신규 임베디드 GPU 제품 모델명 : MX2000A-VP, MX3500A-SP, MX5000A-WP - 임베디드 타입으로 탑재된 GPU : RTX 5000 에이다, RTX 35...
    Date2024.02.02 소식 By블레이더영혼 Reply6 Views544 file
    Read More
  7. 엔비디아, '지포스 RTX 3050 6GB GPU' 공식 출시 및 중국 쇼핑몰의 GPU 다이 발견

    ▶ 엔비디아, '지포스 RTX 3050 6GB GPU'를 공식 출시 ① GPU 반도체 - GPU 마이크로아키텍처 : 암페어 - GPU 코어(CUDA) : 2,048개 - GPU 텐서 코어 :64개 - GPU RT(레이 트레이싱) 코어 : 16개 - GPU(TMU) : 64개 - GPU(ROP) : 32개 - GP...
    Date2024.02.02 소식 By블레이더영혼 Reply1 Views436 file
    Read More
  8. 기가바이트, '지포스 RTX 3050 6GB' GPU 탑재한 제품 공개

    ▶ 기가바이트, '지포스 RTX 3050 6GB' GPU 탑재한 제품을 공개 - 모델 타입 : 일반 GPU 타입, LP GPU 타입  - 모델명 : '지포스 RTX 3050 EAGLE OC 6G(일반)', '지포스 RTX 3050 OC Low Profile 6G(LP)'   ① '기가바이트 - 지포스 RTX 30...
    Date2024.02.02 소식 By블레이더영혼 Reply1 Views334 file
    Read More
  9. 중국 Foresee의 32Gb 2D MLC 낸드 플래시

    중국 Foresee가 32Gb 2D MLC 낸드 플래시를 자체 개발했습니다. BGA 132 패키징, 토글 DDR 모드, 400MB/s의 대역폭으로 eMMC나 SSD에 쓸 수 있습니다. 요새는 예전만큼 2D 낸드나 MLC를 고집할 필요가 없다보니, 그냥 저용량 틈새시장 공...
    Date2024.02.02 소식 By낄낄 Reply2 Views632 file
    Read More
  10. MSI 인텔 700/600 메인보드, 256GB 메모리 지원

    MSI의 인텔 700/600 칩셋 메인보드에서 지원하는 메모리 용량이 256GB로 늘었습니다. 64GB 메모리 모듈을 4개 장착해서 256GB를 만들 수 있습니다. 다른 메인보드 제조사는 대용량 메모리를 쓰기 위해 4G/리사이즈 바/리맵핑 등을 끄라고...
    Date2024.02.02 소식 By낄낄 Reply1 Views410 file
    Read More
  11. AMD, 라이젠 8000G APU STAPM 기능을 수정

    STAPM은 AMD가 모바일 프로세서를 위해 2014년에 도입한 기능으로, 프로세서 온 칩 써멀 다이오드를 통해 온도를 측정하고 온 다이 전원 관리 로직을 써서 전원을 관리합니다. 또 노트북 섀시에 장착된 온도 프로브를 판독해 노트북의 표...
    Date2024.02.02 소식 By낄낄 Reply0 Views837 file
    Read More
  12. Advantech EAI-3100. 인텔 아크 A370M 탑재 미니 ITX 사이즈 카드

    Advantech EAI-3100입니다. 인텔 아크 A370M 모바일 그래픽을 탑재하고 길이를 미니 ITX 폼펙터에 넣을 수 있을 정도로 줄였습니다. 소비 전력 60W, DP 1.4 x2, HDMI 2.0b x2, XMX 엔진 128개, 코어 클럭 1550MHz, 메모리 클럭 14Gbps, 메...
    Date2024.02.02 소식 By낄낄 Reply2 Views536 file
    Read More
  13. ASUS, AMD X690E PRO WS 워크스테이션 메인보드 준비 중

    ASUS가 유라시아 경제 위원회에 AMD X690E 칩셋을 쓴 PRO WS X690E SAGE SE 워크스테이션 메인보드를 등록했습니다. WiFi와 일반의 두가지 버전이 있네요. AMD는 아직 X690E 칩셋을 발표하지 않았습니다.
    Date2024.02.02 소식 By낄낄 Reply1 Views363 file
    Read More
  14. 시소닉 버텍스 스페셜 에디션 사쿠라 파워. 화이트+핑크 컬러

    시소닉 버텍스 스페셜 에디션 사쿠라 파워입니다. 하얀색 본체 의에 분홍색을 칠하고 벚꽂 그림도 그렸습니다. 일본 시리얼 테크 재팬을 통해서만 유통하는 한정판입니다. ATX 3.0, 80+ 골드, PCIe 5.0 12VHPWR 커넥터, 가격은 3만엔, 한...
    Date2024.02.02 소식 By낄낄 Reply4 Views691 file
    Read More
  15. 중국산 라이젠 탑재 미니 PC, 사이버펑크스러운 디자인

    중국 티엔바오의 사이버 GOD88이라는 미니 PC입니다. 라이젠 7 8845HS(젠4, 8코어 16스레드, 부스트 클럭 5.1GHz, TDP 35-54W, 호크포인트, 라데온 780M 내장 그래픽, 12CU, 그래픽 클럭 2.7GHz), DDR5-5600 듀얼채널, PCIe 4.0 x4 M.2 2...
    Date2024.02.02 소식 By낄낄 Reply2 Views651 file
    Read More
목록
Board Pagination Prev 1 ... 29 30 31 32 33 34 35 36 37 38 ... 1923 Next
/ 1923

최근 코멘트 30개
Colorful
23:24
Sin라면
23:22
낄낄
23:21
TrustNoOne
23:18
메이드아리스
23:16
메이드아리스
23:14
TrustNoOne
23:14
메이드아리스
23:14
메이드아리스
23:12
아이들링
23:12
두리
23:02
노예MS호
23:00
미쿠미쿠
22:57
포도맛계란
22:57
포도맛계란
22:56
노예MS호
22:50
아스트랄로피테쿠스
22:50
유니
22:49
베타함수
22:44
이게뭘까
22:43
가네샤
22:42
eheheh
22:42
AKG-3
22:41
아이들링
22:40
이게뭘까
22:39
먀먀먀
22:39
포인트 팡팡!
22:34
가네샤
22:34
홍콩오리
22:33
린네
22:33

MSI 코리아
더함
한미마이크로닉스
AMD

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소