마침내 정식 발표된 나이츠 랜딩

 

인텔은 멀티 코어 프로세서인 제온 파이의 신제품, 나이츠 랜딩(KNL)을 공식적으로 발표했습니다. 1개의 칩에 최대 72 코어를 탑재, 각 코어가 512비트 폭 벡터 유닛을 2개 갖춰고 32비트 단정밀도 부동 소수점 연산에서 6TFLOPS 이상의 성능을 내는 CPU입니다.

 

6월 말에 독일에서 열린 ISC(International Supercomputing Conference) 2016에서 발표가 됐는데, 인텔은 나이츠 랜딩의 기술을 단계적으로 공개해 왔으며 일부 고객에게 제품을 제공했습니다. 그러나 정식 발표나 광범위한 고객을 대상으로 출시하진 않았습니다.

 

 

인텔의 Hugo Saleh는(Director of Segment Marketing, DCSG Technical Computing Group, Intel)은 다음과 같이 설명합니다.

 

"이번에는 제온 파이가 공식적으로 출시됐습니다. 일반적인 용도에서도 사용할 수 있음을 밝힌 셈이죠. 사실 인텔은 지난 몇 달 동안 일부 고객에게 나이츠 랜딩을 제공해 왔습니다. 허나 이런 몇 안되는 고객의 수요도 많았던지라 그동안 나이츠 랜딩은 항상 재고가 없는 상태였습니다. 이들 고객 중에는 TOP 500의 후보 시스템이 8개 있지요.

 

지금은 나이츠 랜등을 원하는 광범위한 고객에게 제품을 제공해 나갈 수 있습니다. 전 세계적으로 올해(2016년) 동안 10 만개의 제온 파이 출시를 예상하고 있습니다. 이미 35000개는 출고가 끝난 상황입니다. 초기 고객에서 의견이 높은 평가를 얻고 있으며, OEM과 ISV에서의 지지도 좋습니다."

 

지금까지는 인텔과 협력한 일부 슈퍼 컴퓨터 센터만 나이츠 랜딩을 도입했습니다. 하지만 지금은 그렇지 않습니다. HPC(High Performance Computing) 고객 및 시스템 공급 업체가 나이츠 랜딩 기반의 제온 파이를 주문할 수 있습니다. 인텔은 최종 제품 사양 및 SKU (Stock Keeping Unit = 아이템)도 밝혔습니다.

 

 

나이츠 랜딩의 SKU

 

 

 

나이츠 랜딩의 파트너

 

"나이츠 랜딩은 총 4 SKU로, 각각 패브릭 통합 버전과 통합하지 않은 버전이 있습니다. 최고 성능의 제온 파이 7290부터 가장 저렴한 제온 파이 7210까지 다양한 성능과 전력, 가격 조합을 선택할 수 있습니다.

 

한 가지 중요한 점은 모든 제품에서 16GB의 온칩 메모리를 유지했다는 점입니다. 메모리 대역폭이 중요하다는 것을 이해하고 있기에 이렇게 했습니다. 5천달러 이하의 저렴한 가격으로 싱글 제온 파이 노드의 개발자 시스템을 제공하는 것을 목표로 하고 있습니다."

 

나이츠 랜딩은 패키지에 마이크론 테크놀러지의 HMC(Hybrid Memory Cube) 기술을 기반으로 한 광대역 메모리 MCDRAM을 탑재하고 있습니다. 인텔의 SKU는 최상위 제품과 하위 제품의 MCDRAM 용량이 같습니다. DRAM의 데이터 전송 속도가 상위 3 SKU가 7.2Gbps인데 저가형 SKU는 6.4Gbps라는 차이는 있으나 치명적인 수준은 아닙니다.

 

 

아키텍처를 새로 만들어 다시 태어난 제온 파이

 

인텔은 이전 세대의 제온 파이인 나이츠 코너를 HPC 시장에 출시했으나 반응이 아주 크진 않았습니다. HPC 시장에서는 여전히 GPU를 가속으로 사용하는 시스템이 눈에 띕니다. 인텔의 Hugo Saleh는 이번 나이츠 랜딩이 나이츠 코너와 다른 점을 강조, 더 우수한 제품이 됐다고 설명합니다.

 

 

"나이츠 랜딩은 '최초'라는 호칭이 많습니다. 우선 나이츠 랜딩은 최초로 부팅 가능한 제온 파이입니다. 지금까지의 제온 파이처럼 엑셀레이터 부트 호스트용 제온 프로세서를 필요로 하지 않습니다. 또한 HPC 패브릭을 통합한 최초의 제품입니다. 이더넷을 통합한 제품은 있었으나 나이츠 랜딩은 HPC 패브릭이며, 여러 노드를 교차시켜 확장 시스템을 구축할 수 있습니다. 또한 나이츠 랜딩은 광대역 메모리를 통합했습니다. 많은 애플리케이션에서 제약이 되는 메모리 대역폭을 크게 넓힌 것입니다.

 

 

성능도 매우 높습니다. 싱글 소켓에서 SPECfp_rate2006 벤치 마크 최고의 기록을 가지고 있습니다. GPU 시스템과 비교해도 장점이 있습니다. 현재의 GPU에와 비교하면 생화학에서 5배, 시각화에서 최대 5.2배(케플러 테슬라 K80과 비교)의 성능 우위를 가지고 있습니다. "

 

 

기존의 제온 파이(나이츠 코너)와 GPU 가속 장치는 부팅과 OS 실행을 위해 호스트 CPU가 필요합니다. 반면 새로운 제온 파이(나이츠 랜딩)은 자신이 직접 부팅해 표준 OS를 실행할 수 있는데요. 이것이 나이츠 랜딩의 가장 큰 매력이기도 합니다. 인텔은 보조 프로세서형 나이츠 랜딩도 제공하지만, 초점은 셀프 부팅형에 맞추고 있습니다.

 

 

스칼라 성능을 높인 나이츠 랜딩 코어

 

 

나이츠 랜딩이 부팅을 할 수 있게 된 이유에는 각각 CPU 코어의 벡터 성능뿐만 아니라 스칼라 성능이 향상됐다는 점을 빼놓을 수 없습니다. 나이츠 코너의 스칼라 파이프는 펜티엄 기반 인 오더 2웨이 슈퍼 스칼라였습니다. 하지만 나이츠 랜딩은 22nm 아톰(실버몬트) 기반 아웃 오브 오더 2웨이 슈퍼 스칼라가 됐습니다. 덕분에 코어 당 싱글 스레드 성능이 크게 늘었습니다. 인텔은 3배의 스칼라 성능을 낸다고 설명하며, 호스트 OS를 실행할 수 있음을 강조합니다.

 

 

나이츠 랜딩 마이크로 아키텍처

 

 

 

또 다른 이유는 인텔 메인스트림 CPU와 명령 셋트 호환이 된다는 것입니다. 기존의 나이츠 코너 제온 파이는 스칼라 파이프의 레거시 명령 셋트가 차이나서, 스칼라 코드를 다시 컴파일해야 했습니다. 그러나 나이츠 랜딩에선 레거시 명령도 호환돼 레거시 바이너리가 다시 컴파일할 필요 없이 그대로 실행 가능합니다. 따라서 OS도 그대로 부팅할 수 있습니다.

 

 

또 앞으로 제온은 512비트 벡터 명령에서도 기본적으로 호환을 제공합니다.

 

 

인텔 AVX/SSE 레지스터 구성

 

성능을 설명할 때 인텔은 비교 대상을 신중히 골랐습니다. 여기에선 NVIDIA의 HPC용 GPU 아키텍처인 케플러를 썼으나, 실제로는 파스칼 기반 테슬라 P100과 나이츠 랜딩이 경쟁하게 됩니다. 이것은 파스칼 P100이 정식 출시되지 않은 이상 정확한 비교는 어려울 것입니다.

 

 

 

보조 프로세서형 솔루션과는 다른 접근

GPU 시스템은 호스트 CPU에서 부팅, 커널을 GPU에 다운로드하고 실행합니다. 인텔은 GPU와 비교해서 나이츠 랜딩의 장점은 셀프 부팅과 함게 인텔 메인스트림 CPU와의 명령 셋트 호환이라고 강조합니다. 인텔은 이러한 특성을 지닌 나이츠 랜딩이야말로 진정한 범용 프로세서이면서 HPC 워크로드에 적응한 최초의 프로세서라고 설명합니다.

 

"나이츠 랜딩은 유례없는 것들(one of a kind)의 수준이 아니라, 지금까지 없었던 종류이자 최초(first of its kind)의 프로세서입니다. 나이츠 랜딩의 장점은 진정한 범용 아키텍처이며, 많은 종류의 애플리케이션을 지원할 수 있다는 점입니다. 특정 용도에만 장점을 지닌 커스텀 아키텍처와 큰 차이가 있습니다. 이 점은 인텔이 아닌 우리 고객이 증명해주고 있습니다.

 

특히 중요한 점은 나이츠 랜딩이 스스로 부팅 가능한 제온 파이라는 점입니다. 제온 파이 자체로 부팅 가능하기에 호스트 역할을 맡을 제온을 필요로 하지 않으며, 싱글 프로세서로 동작 가능합니다. 이것은 사용 편의성 측면에서 매우 가치있는 일입니다.

 

또한 제온 및 제온 파이 명령 셋트 호환도 중요합니다. 제온에서 실행하는 어떤 응용 프로그램도 나이츠 랜딩 기반 제온 파이에서 실행할 수 있습니다. 스스로 부팅하는 것과 우수한 명령 호환성, 이는 보조 프로세서나 가속 장치에선 실형할 수 없는 것입니다. 보조 프로세서형 솔루션과 비교하면 나이츠 랜딩이 훨씬 간단하고 쉽습니다."

 

 

바이너리 호환성과 스칼라, 벡터 모두 성능 향상됐다는 점이 나이츠 랜딩의 특징

 

 

인텔 주장의 포인트 중 하나는 나이츠 랜딩이라면 벡터 연산 워크로드와 스칼라 워크로드를 동일한 CPU 코어에서 실행할 수 있다는 것입니다. 보다 폭 넓은 애플리케이션에 대응할 수 있다는 건, 벡터와 스칼라가 뒤섞인 애플리케이션에서도 성능을 발휘할 수 있을 것이라 추측되는 점입니다.

 

또한 GPU 프로그래밍의 장애물이되는 최적화에 대해서도 인텔 CPU 최적화 기법의 연장선상에 있는 나이츠 랜딩이 유리하다고 인텔은 설명합니다. 인텔 메인 스트림 CPU의 명령 세트 호환이 높으니 코드 이식에서도 유리합니다. 제온 파이 시스템에서 제온 시스템과 거의 같은 코드를 실행할 수 있다면 바이너리 코드 이식이 됩니다.

 

 

인텔은 메인 스트림 CPU와 제온 파이의 호환성뿐만 아니라 앞으로 호환성도 중요하고, 인텔은 이를 지킬 수 있다고 설명합니다. HPC 분야에서 프로그래밍 노력을 중장기에 걸쳐 줄일 수 있다면, 도입한 장점이 있다는 주앙입니다.

 

그러나 제온의 벡터 명령이 나이츠 랜딩과 호환되는 AVX-512이 되는 건 2017년 스카이레이크 아키텍처 기반 제온부터입니다. 또한 first of its kind라고 표현했으니, 인텔 나이츠 랜딩의 아키텍처 노선으로 앞으로 제온 파이를 추진해 나갈 것임을 알 수 있습니다

 

 

나이츠 랜딩을 평가하는 슈퍼 컴퓨터 센터

 

 

ISC16에서 인텔이 개최한 원탁 회의에서도, 나이츠 랜딩 파트너인 슈퍼 컴퓨터 시스템 담당자들이, 호모지니어스 나이츠 랜딩 시스템의 유용성을 높게 평가했습니다.

 

예를 들어 제온 파이 기반 슈퍼컴퓨터인 Stampede로 잘 알려진 Texas Advanced Computing Center (TACC)의 Dan Stanzione (Executive Director, Texas Advanced Computing Center)는 다음과 같이 말합니다.

 

"3~4 년 전에 제온 파이와 GPU 중 어느 쪽이 뛰어난 가속기인지를 두고 논의가 있었습니다. 이 때의 제온 파이는 아직 나이츠 코너로서 일종의 가속 장치였습니다. 그리고 가속기를 사용하는 시스템에선 CPU에서 가속기로의 오프로드가 필요하며, 때문에 프로그래밍이 많이 복잡해졌습니다.

 

그러나 이번 나이츠 랜딩은 다릅니다. 나이츠 랜딩은 가속기가 아니라 (메인) 프로세서입니다. 그것도 엄청난 메모리 대역폭을 갖추고 있습니다. 앞으로의 프로세서는 이렇게 될 것이라고 우리가 생각했던 그런 프로세서입니다. 나이츠 랜딩은 호모지니어스(균일성) 시스템을 간단하게 갖출 수 있게 합니다."

 

이 자리에는 나이츠 시리즈를 도입, 혹은 도입하려는 유력한 슈퍼 컴퓨터 담당자와 연구자가 모여 나이츠 랜딩의 장점을 말했습니다. 물론 핵심이 되는 건 왜 GPU가 아닌 제온 파이냐는 점입니다. 인텔과 관련이 깊은 Texas Advanced Computing Center(TACC)가 나이츠 랜딩을 좋게 평가하는 건 당연하나, 다른 참석자들은 상당한 온도 차이를 보였습니다.

 

"(슈퍼 컴퓨터에서) 전력 효율이 높은 시스템은 아직 GPU입니다."(Rick Stevens, Associate Laboratory Director for Computing Environment and Life Sciences, Argonne National Laboratory)처럼 GPU의 장점을 인정하는 발언도 있었습니다 . 그러나 코드를 GPU에 이식 최적화하는 노력 등을 감안할 때, 종합적인 가치는 제온 파이가 높다는 의견이 대세였습니다.

 

 

인텔이 제시한 해답음 호모지니어스 구성의 중시

 

CPU는 65nm 공정 이후의 전력 효율 제약 때문에 싱글 스레드 성능과 동작 클럭의 향상이 둔화됐습니다. 따라서 HPC(High Performance Computing)처럼 작업량이 무거운 상황에선 컴퓨팅 성능을 향상시키기 위해 프로세서 당 코어 수를 늘리고, 코어 당 벡터 연산 성능을 높일 수밖에 없습니다. 이것은 업계의 공통 인식이지요.

 

 

 

 

 

 

 

 

 

이제 남은 건 병렬성을 늘리는 방법인데, CPU 코어를 멀티 코어로, GPU를 범용 컴퓨팅에 사용하고, FPGA (Field-Programmable Gate Array)를 도입하는 ASIC (Application Specific Integrated Circuit : 주문형 IC)의 가속기를 개발하는 등의 형태로 나뉩니다. 그리고 병렬성을 추출하는 방법에 따라 프로그래밍 모델도 갈립니다.

 

 

 

 

인텔이 나이츠 랜딩에서 마지막으로 도달한 솔루션은 (1) 메인 스트림 CPU와 멀티 코어 CPU를 명령 호환하고, ​​(2) 멀티 코어 CPU의 스칼라 성능을 저전력 메인 스트림 CPU 수준으로 끌어 올려, (3) 셀프 부팅이 가능하며 스탠드얼론으로 동작 가능한 프로세서로, (4) 메인 스트림 CPU와 친화성이 있어 최적화 방법을 공유 가능한 멀티 코어 CPU를 만든다는 방벙이었습니다. 따라서 인텔은 나이츠 코너에서 나이츠 랜딩으로 오면서 CPU 코어 수를 늘리는 것보다, CPU 코어의 성능 향상에 포인트를 뒀습니다.

 

결과적으로 이번에 있었던 GPU냐 나이츠 랜딩이냐는 논쟁은, 호모지니어스 시스템에서 전력 효율을 추구하건, 시스템 유용성을 우선하냐는 방향성의 차이를 드러난 것입니다. 인텔은 호모지니어스의 장점을  평가하는 유저들에게 지지를 받고 있습니다. 그러나 인텔은 명령 셋틍의 통합으로 코어 i 브랜드의 대형 코어와 나이츠 랜딩 계열의 소형 코어 등, 다양한 구성도 가능하게 만들었습니다.

 

이 논의는 목표 시장에 따라 달라집니다. HPC 분야에선 프로그래밍의 비중이 높습니다. 그러나 기업과 클라우드 데이터 센터는 소프트웨어의 생산성이 HPC보다 엄격한 편입니다. 그리고 지금은 Deep Neuronal Network(DNN) 기반의 머신 러닝을 통해 제온 파이나 GPU 같은 시스템을 일반 데이터 센터에서도 강하게 요구하고 있습니다. 나이츠 랜딩의 장점은 이런 시장에서 무기가 될 것입니다.