ARM은 CPU와 GPU의 성능을 더 높이려고 하나, 여기서 문제가 되는 게 소비 전력, 발열, 그리고 배터리 사용 시간입니다. 갈수록 더 얇은 스마트폰을 추구하는 지금, 배터리 용량을 늘리고 발열을 분산시킨다는 것이 쉬운 일은 아니지요.

 

 

성능과 소비 전력, 발열은 서로 반비례되는 관계에 있습니다. 스마트폰의 두께를 줄이면서 온도를 낮추기가 어려운 것도 바로 이 때문입니다. 온도를 낮추면 이 때문에 성능에도 한계가 있기 마련이지요.

 

이런 문제를 해결하기 위해 ARM이 2016년 6월에 발표한 신형 CPU 코어가 Cortex-A73, GPU 코어는 Mali-G71입니다.

 

 

우선 Cortex-A73부터 볼까요. 기존의 CPU 코어인 Cortex-A72에 비해 성능과 전력 효율을 30% 향상하고, 다이 전체 중 CPU 코어가 차지하는 면적을 줄인 것이 A73의 특징이라고 ARM은 설명합니다.

 

 

동일한 전력으로 설정한 CPU 코어를 가지고 벤치마크를 돌렸을 때, Cortex-A73은 2015년의 하이엔드 CPU 코어인 Cortex-A57의 2.1배, Cortex-A72와 비교하면 1.3배 높은 성능을 낸다고 합니다.

 

여기서 하나 짚고 넘어갈 건 A73의 클럭이 2.8GHz인데 A72는 2.5GHz, A57은 1.9GHz이니 클럭도 올랐다는 거지요. 다만 ARM이 주장하는 성능 향상 폭이 동작 클럭의 변화보다 더 크니, 클럭 외에 분명 달라진 점이 있을 겁니다.

 

 

그럼 이 부분에 대해 ARM은 어떻게 설명할까요. 먼저 명령 파이프 라인은 Cortex-A15부터 Cortex-A72까지 3명령 디코딩에 8명령 동시 발행의 아웃 오브 오더 방식이었으나, A73에선 2명령 디코드로 바꿨습니다.

 

동시에 디코딩할 수 있는 명령 수가 줄어든다니 성능이 떨어질 것 같지만, 실제로는 성능이 더 올랐다고 하네요. 같은 공정에 같은 클럭으로 작동하는 A73과 A72를 비교하면 5~15% 정도의 성능 향상이 있다고 합니다.

 

 

그럼 어떻게 이게 가능한 걸까요. Cortex-A15부터 A72까지의 CPU는 모바일 외에도 서버처럼 헤비 워크로드를 염두에 둔 퍼포먼스 위주의 CPU 코어이기 때문입니다.

 

여기서 말하는 헤비 워크로드는 대량의 처리와 애플리케이션의 동시 실행 등을 나타내는데, 모바일에선 이렇게 쓰는 경우가 별로 없지요. 따라서 헤비 워크로드를 염두에 둔 3명령 디코딩 아웃 오브 오더 구성은 모바일에서 충분히 활용된다고 보기 어렵습니다.

 

그래서 Cortex-A73은 서버를 위한 헤비 워크로드 스펙을 없애 모바일 애플리케이션 성능을 최적화했습니다. 2명령 아웃 오브 오더에서도 충분한 성능이 나온다는 게 ARM의 주장인 셈입니다.

 

모바일 최적화는 전력 사용량 대비 성능의 개선과, 절대적인 성능 향상의 두가지를 모두 썼다고 합니다. 소비 전력 당 성능 향상은 명령 페치에 슬롯이란 개념을 도입했는데, Cortex-A73은 8개의 슬롯이 있으며 각 슬롯은 독립적으로 ARM 명령어를 관리합니다.

 

작은 명령 루프를 관리하면 하나의 슬롯을 한꺼번에 처리할 수 있어 명령 루프 변환에 편리하며, 결과적으로 명령어를 인출해내는 부분의 전력 절감으로 이어지게 됩니다.

 

 

또 연속적인 명령 해석과 실행을 할 때 흐름을 중단시키는 경우(버블)를 없애기 위핸 개량이 더해졌습니다. 이는 클럭 당 명령 실행 수(Imstructions per Clock, IPC)를 높이는 것보다, IPC를 낮추지 않기 위한 개선이라고 해야 할 것입니다.

 

이 IPC를 유지하기 위해 빠질 수 없는 게 분기 예측입니다. Cortex-A73은 분기 명령의 대상 주소를 저장하는 분기 주소 캐시(branch Taget Addres Cache. BTAC)의 용량을 확대하고, 최근 분기를 빠르게 호출하는 Micro-BTAC를 새로 넣어 정확도를 높였습니다.

 

또 기존까지 메모리에 저장했던 리턴 스택을 CPU에 넣고, 성능에선 유리해도 소비 전력이 많았던 동적 분기 예측 Dynamic Prediction이나, 성능은 떨어져도 소비 전력에서 유리한 정적 분기 예측(Static Prediction)을 추가해, 정확도를 높이고 소비 전력을 줄였습니다.

 

 

그 외에 성능 향상을 위한 실행 유닛의 개량으로는 부동소수점 연산 유닛(FPU)와 SIMC 연산 기능인 NEON의 성능 개선이 있습니다. 이것은 최대 동작 클럭을 높이는 효과가 있으며, A73의 클럭이 높아진 것도 이 부분의 덕을 본 것으로 보입니다.

 

 

또 로드/스토어 유닛을 두개로 나눠 명령어 처리를 비 순차적으로 수행하도록 개량한 점.

 

 

주소 변환 캐시인 Translation Lookaside Buffer(TLB)의 효율 개선, L2 캐시의 내부 구조 변경 등으로 메모리 액세스 효율을 높였습니다.

 

슬라이드는 없지만 Cortex-A73의 실행 유닛은 7개로 구성됩니다. ALU 2개, 로드/스토어 2개, NEON?FPU 2개, 분기 유닛까지 7개입니다. Cortex-A72는 멀티 사이클 멀티플라이 유닛이 있었으나 A73는 ALU에 통합된 듯.

 

이렇게 보면 Cortex-A73은 2명령 디코딩 아웃 오브 오더라 해도, 실행 유닛 자체는 Cortex-A72와 크게 다르진 않은 듯 합니다.

 

 

그럼 Cortex-A73은 어떻게 전력 사용량은 줄인 것일까요. 모바일에서 필요하지 않은 걸 모두 제거했기 때문에 가능했습니다.

 

예를 들어 Cortex-A72의 L1 캐시에서 제공했던 메모리 에러 방지 기능인 ECC(Error Correctin Code)가 Cortdx-A73에는 없습니다. 서버는 방사선 등의 영향으로 데이터가 손실되는 것을 감지하고 해결하기 위해 ECC가 필요합니다. 허나 일반 소비자용 모바일 디바이스라면 재부팅하면 끝이니 ECC가 필수는 아니죠. 이를 빼서 전력과 크기를 줄일 수 있다면 빼자는 겁니다.

 

그 외에도 서버에서 필수지만 모바일에서 필요하지 않는 기능이라면 모두 뺐습니다. 그 결과 Cortex-A73은 서버용으로 적합하지 않은 순수한 모바일 CPU 코어가 됐습니다. 그 결과 제조 공정과 클럭이 같은 경우, Cortex-A73은 A72보다 5~15% 정도 개선이 이루어졌습니다.

 

 

또 기본 성능이 높아지면서 성능이 같을 경우 소비 전력은 평균 20% 정도 줄일 수 있었다고 합니다.

 

 

이런 성능 향상은 Cortex-A73의 주요 대상인 하이엔드 스마트폰만의 이야기가 아니라고 합니다. 하이엔드 스마트폰은 고성능 CPU 코어와 저전력 CPU 코어를 결합한 big.LITTLE 처리를 도입한 SoC를 씁니다. 그래서 SoC는 big에 Cortex-A57이나 A72를, LITTLE에 A53 코어를 쓰는 게 일반적입니다. 반면 보급형 스마트폰에선 big 코어를 빼고 A53을 8개 집적한 SoC를 쓰곤 합니다.

 

그런데 ARM의 연산에 의하면 Cortex-A73 x2와 Cortex-A53 x4로 조합한 big.LITTLE 구성이, Cortex-A53 x8과 거의 같은 크기에 평균 30%의 성능 향상을, 단일 스레드에선 90% 향상이 가능하다고 합니다. 그런 이유로 ARM에서 하이엔드 SoC 뿐만 아니라 보급형 SoC에도 Cortex-A73이 쓰일 것으로 전망하고 있습니다.

 

앞에선 Cortex-A73이 10nm 공정을 전제한 것으로 이미지에 나왔으나, 실제론 10nm 공정에서만 만들 수 있는 것도 아닙니다. 2016년 6월 7일에는 TSMC의 16FF+ 공정에 대응하는 POP IP(Processor Optimization Package IP)를 ARM이 제공한다고 발표했습니다.

 

현재 다양한 SoC 업체들이 Cortex-A73을 채용한 SoC의 설계와 제조에 접어든 상태이기에, 이를 탑재한 스마트폰이 올해 안에 나올 가능성은 매우 낮습니다. 허나 2017년에는 출시될 것입니다. 다만 Cortex-A73의 본격적인 시작은 2017년에 양산이 이루어지는 TSMC의 10FF 공정을 이용해 제조된 SoC를 탑재한 스마트폰이 등장할 2017년 말 이후일 겁니다.

 

 

다음은 Mali-G71 GPU입니다. 이것의 목적은 간단합니다. VR 컨텐처를 실시간 렌더링하는 게 가능한 성능을 확보하는 것이죠.

 

 

물론 기존 ARM GPU에서 VR 컨텐츠를 쓰지 못하는 건 아닙니다. 엘르 들어 Mali-T760 MP8을 쓴 갤럭시 S6 엣지만 해도 삼성 기어 VR을 쓸 수 있지요. 다만 이보다 더 높은 렌더링 품질을 원한다면 GPU 성능을 높일 필요가 있을 겁니다.

 

 

허나 기존의 Mali-T 시리즈는 확장의 한계에 도달하고 있습니다. 최상위 모델인 Mali-T880의 경우 쉐이더 코어를 최대 16개 집적 가능하나, 이 이상으로 성능을 늘리긴 어렵습니다. 렌더링 외에 GPGPU로 쓰는 경우도 있는데 말이에요. 머신 런닝이라던가.

 

이런 상황에 대응하기 위해 Mali-T 시리즈보다 높은 성능과 확장성을 갖춘 GPU 코어로 ARM이 개발한 것이 Mali-G 시리즈입니다. 그리고 Mali-G71은 새로운 아키텍처인 Bifrost를 쓴 첫 제품입니다.

 

 

Mali-G71이 스펙과 성능을 Mali-T880과 비교한 슬라이드입니다. 쉐이더 코어를 최대 32개로 2배 높였고, 성능 대 전력 사용량, 성능 대 다이 크기도 개선했으며, 메모리 대역폭도 20% 정도 늘었다고 합니다.

 

 

소비 전력을 신경쓰지 않고 무작정 성능을 높인다면 실제 사용과 맞지 않겠지요. 그래서 성능 대 전력 비율이 더 중요하다고 합니다. 그래도 Mali-G71은 2015년의 노트북용 그래픽과 비슷한 수준의 성능은 나온다네요.

 

 

그럼 Mali-G71의 Bifrost 아키텍처는 어떤 것일까요. 구조도를 보면 Mali-T 시리즈의 Midgard와 큰 차이는 없습니다. 변한 것은 세부 내용이지요.

 

 

Midgard의 구조를 상세히 표시한 것입니다. Midgard는 2개의 ALU 파이프(Arithmetic Pipe)와 로드/스토어 텍스처를 독립적으로 실행 가능한 4개의 연산 파이프가 있습니다.

 

이번엔 Bifrost입니다. 여기에 나온 Quad는 기존에 스레드 단위로 처리하던 걸 대체하는 새로운 처리 단위입니다. Bifrost에선 연산 유닛인 Execution Engine이 3개 있는 것 외에도 로드/스토어, 텍스처 유닛이 따로 있습니다.

 

또 미드가르드는 ALU에 포함된 Attribute와 Varying이라는 유닛(모드 다각형 작업을 수행)이 7개로 총 7개의 연산 파이프로 구성됩니다. 그러나 미드가르드는 스레드, 바이프로스트는 쿼드로 처리 유닛이 다르기에 파이프 유닛의 비교는 의미가 없습니다.

 

 

그럼 이 쿼드가 뭔지를 설명해야 되겠는데요. RGB 각각 8비트인 24비트 컬러 데이터에 4웨이 SIMD 연산을 하려면, 한 레인이 쓰이지 않고 버려지게 됩니다. 이 경우 데이터를 처리하는 데 4사이클이 걸린 셈이죠.

 

 

그래서 바이프로스트는 4번의 연산에 해당하는 스레드를 정리해 데이터를 정렬, 이 상태에서 SIMD 연산을 수행합니다. 연산 후에는 원래 위치로 데이터를 정리하기에 정렬 여부가 애플리케이션에 영향을 주지 않습니다. 이 방법을 쓰면 4사이클이 걸리던 처리를 3사이클로 줄일 수 있습니다.

 

이 정렬에 얼마나 시간이 걸리는지는 언급하지 않았으나, 하드웨어 처리에선 1사이클도 걸리지 않는다고 합니다. 그리고 GPU의 파이프라인은 대부분 매우 길기에 연산 전후에 정렬 처리가 들어가도 처리량은 항상 같습니다. 따라서 총 처리 시간은 줄어들고 소비 전력도 절감 가능하다는 것이 ARM의 설명입니다.

 

물론 최소 4개의 스레드가 작업 상태가 되야만 쿼드 방식의 효과를 낼 수 있지만 이 점에선 별 문제가 없다고 하네요.

 

 

쿼드가 성능 향상을 위한 것이라면 Clause는 절전을 위한 것입니다. 이건 미드가르드에서의 처리.

 

 

 

이건 바이프로스트에서의 처리입니다. 한번에 처리 가능한 명령은 가급적 한번에 처리함으로서 오버헤드를 줄이자는 것이 Clause의 기본적인 구조입니다.

 

 

다만 이것만으론 설명이 부족하겠지요. 자세한 설명은 ARM이 제시하는 기계어 코드를 봅시다.

 

왼쪽에 있는 것은 원래의 프로그램 코드인 리니어 소스입니다. 그 내용은 LOAD.32에서 메모리 레지스터 r0로 데이터를 읽어들이고, FADD.32행에 데이터가 2배가 되도록 레지스터 데이터를 더해, 다른 레지스터 --r0+r0이라면 r1에 결과를 저장합니다. 이 과정을 6번 반복하고 STORE.32에선 최종 값을 r0에서 메모리로 돌리는 구조 되겠습니다.

 

이 처리에서 오버헤드가 되는 건 ALU 파이프라인 외부의 레지스터인 r1, r2, r3, r4에 불필요한 저장/불러오기가 수행된다는 것입니다. 빠르게 작동하는 외부 레지스터라서 이런 딜레이 없이 액세스할 경우 데이터 전송에 불필요한 전력 소비가 생기게 됩니다. 이걸 줄이자는 게 Clause의 기본 개념이지요.

 

Clause는 위 이미지의 코드를 LOAD(r0로 로드), STORE(r0에서 메모리로 저장), 계산의 3가지로 나눕니다. 그리고 계산은 외부 레지스터가 아니라 오른쪽에 써진 t0, t1의 2개 임시 레지스터를 이용하도록 재조합해 외부 레지스터에 대한 액세스를 줄입니다. 이 임시 레지스터는 외부 레지스터가 아니라 ALU 파이프 라인에 있어 소비 전력이 적습니다.

 

Clause 처리 속도 자체는 전혀 다르지 않습니다. 이 처리를 거친다고 해서 FADD.32의 명령 수가 줄어들진 않기 때문입니다. 하지만 소비 전력이 많은 r1~r4의 레지스터 액세스를, 소비 전력이 낮은 임시 레지스터로 대체할 수 있기에 전체 전력 소비는 줄일 수 있다는 게 Clause의 장점입니다.

 

 

비프로스트의 ALU는 일종의 SIMD 연산 유닛이며, FMA 연산을 포함해 연산합니다. 위 이미지에 나온 ADD/SF의 SF는 스페셜 펑션인데, 미드가르드에 비해 유닛 크기를 줄였다고 합니다.

 

 

앞에서 잠깐 말한대로 머신 러닝 등에서 GPU를 쓰려는 경우가 많은데, 비프로스트의 ALU는 이런 분야에도 적합하다고 ARM은 말합니다. 머신 러닝에선 32비트가 아니라 16비트나 8비트 연산만으로도 충분한 결과를 낼 수 있는 경우가 많은데, 비프로스트는 작은 크기의 데이터를 처리하는 성능이 상승하기에 소비 전력을 줄이는 효과도 볼 수 있다고 합니다.

 

 

비프로스트의 절전 관련 개선으로는 또 다른점이 하나 있습니다. 텍스처를 취급하는 방법이 달라졌다는 것이죠. 위 이미지 왼쪽에 나온대로 삼각형 텍스처가 5개 있다고 가정해 봅시다. 미드가리드에선 각 텍스처의 크기에 따라 최소 단위를 하나 정하고, 그 2배, 그 4배 같은 식으로 기준 크기를 바꾸면서 메모리의 텍스처 데이터를 관리합니다. 그러나 이 경우 위 이미지에 나온대로 낭비되는 공간이 많죠.

 

그래서 비프로스트는 메모리 관리의 최소 단위를 텍스처의 크기에 맞췄습니다. 위 이미지에서 삼각형을 둘러싼 점선만큼만 사용한다는 것이죠. 그러면 텍스처 메모리 사용량을 줄이고 메모리 액세스에 따른 소비 전력도 줄일 수 있을 것입니다.

 

위 이미지에서 노란색의 작은 삼각형은 Micro-triangle elimination라는 기능으로 생략합니다. 1픽셀 미만의 크기로 렌더링 품질에 영향이 없는 작은 텍스처를 생략해, 효율성을 개선하자는 것입니다.

 

이런 특징 덕분에 비프로스트는 텍스처 메모리 이용 효율을 최대 95%까지 개선할 수 있다고 합니다.

 

 

또 하나. Index-driven Position Shading의 도입도 있습니다. 어떤 데이터를 처리할 때 데이터 자체를 일일이 전송하지 않고, 데이터를 나타내는 인덱스를 건내줌으로서 데이터 전송량을 줄이는 것입니다. 데이터 자체를 처리할 때엔 전송량이 변하지 않지만, 일부 처리는 인덱스만으로 끝내니 전송량을 줄이고, 전력 사용량 역시 줄어들게 됩니다.

 

기존 Mali-T880 MP16을 16FF + 공정으로 제조한 경우 17억 폴리곤을 1초에 처리하지만, 처리량은 104억픽셀/초밖에 안 됩니다. 반면 Mali-G71를 16FF+ 공정으로 만들면 850MHz의 클럭일 때 8억 5000만 폴리곤/초, 272억 픽셀/초의 처리량을 제공할 수 있습니다(코어 수는 공개하지 않음). 폴리곤 처리 성능은 애매하니 전체적인 처리량의 증가로 렌더링 성능의 향상을 기대할 수 있지요.

 

Cortex-A73를 소개할 때도 말했지만 Mali-G71도 원래 제조 공정은 TSMC나 삼성, 글로벌 파운드리의 10nm입니다. 하지만 첫 제품은 TSMC 16FF, 삼성/글로벌 파운드리의 14LPP로 제조돼 내년에 출시됩니다.