2017년에 설립된 lightmatter에서 몇달 전 최초의 상용 광자 프로세서와 컴퓨팅 시스템을 공개했습니다.
광자 컴퓨터는 빛을 이용해 연산을 하는 컴퓨터입니다.
BERT 기반 모델에서 엔비디아 A100에 비해 와트당 5배나 빠르고 7배 효율적이라고 하네요. AI연산에 몰빵한 덕도 있을듯..
컴퓨팅 밀도도 7배 높다고 합니다. 같은 랙 안에 그만큼 많은 연산력을 갖출 수 있다는 이야기겠지요.
Envise는 최초의 상용 광자 프로세서입니다.
범용 AI 연산이 가능합니다.
광자 프로세서라고 기존 트랜지스터가 아예 안 쓰이는것은 아니라 PCI-E 인터페이스, 통신용 256개의 RISC 코어, 500MB SRAM이 있고
여기에 더해 산수 연산을 하는 광자 코어가 잔뜩 박혀 있습니다. 65536개 라고 합니다.
광자 코어가 어떤 구조인지는 밝히지 않고 있습니다.
그리고 200nm x 100nm 폭의 광 신호를 전달하는 40개 채널로 구성된 광케이블이 있습니다.
대역폭은 400Gb/s라고 하네요.
광자 컴퓨팅 시스템 - Envise Server
2개의 AMD EPYC CPU, 16개의 Envise 칩으로 구성되어 있습니다.
4U, 전력소모는 3KW
A100 8개 구성인 엔비디아의 DGX-A100 과 비교한 성능입니다.
성능은 훨씬 높은데 전력소모는 오히려 낮습니다.
마지막으로 설립자가 흥미로운 이야기를 했는데요. 현재는 한가지 빛으로 연산을 하지만 미래에는 다양한 파장의 빛을 동시에 처리하는 식으로 여러개의 데이터셋을 동시에 처리할것이라고 합니다. ㄷ ㄷ ㄷ ㄷ NPU가 병렬 매트릭스 연산을 하는 물건이다 보니 가능한것 같네요.
CDMA 같은거라고 봐도 될것같네요.
여기에서 광자 컴퓨팅의 진가가 드러나는것 같습니다...
투자자 중에 HP엔터프라이즈도 있더군요.
현재 알파 테스터 모집중이고 고객에게 물건이 전달되는건 올해 말 즘으로 목표하고 있다고 합니다.
https://medium.com/lightmatter/optical-components-for-matrix-processing-73687cdd7aa6
기술적인 정보도 올라와 있습니다... 궁금하신 분들을 위해 링크도 올립니다.
https://www.youtube.com/watch?v=t1R7ElXEyag
인터뷰
컬러풀의 지포스 RTX 3060 미니 ITX
https://spectrum.ieee.org/deep-learning-at-the-speed-of-light