구글이 제미나이 AI의 새 버전인 제미나이 1.5를 발표했습니다. 개발자나 기업용으로는 제미나이 1.5 프로 프리뷰 버전을 이미 제공 중입니다.
제미나이 1.5 프로에 MoE(Mixture-of-Experts) 아키텍처를 도입해 효율적인 학습과 서비스가 가능합니다. 제미나이 1.0 울트라 수준의 성능을 낸다고 하네요. 기조느이 트랜스포머는 하나의 대형 신경망으로 작동하지만 MoE는 입력된 종류에 따라 가장 관련성이 높은 경로를 선택해 효율을 높였습니다.
또 제미나이 1.0이 3만 2천 토큰이었는데 제미나이 1.5 프로는 12만 8천 토큰까지 확장했습니다. 최대 100만 토큰까지 처리가 가능한데 동영상은 1시간, 음성은 11시간, 코드는 3만 줄 이상, 문장은 70만 단어를 한번에 처리해 냅니다.