요즘 스마트폰 AP에는 신경망 가속 처리에 사용할 수 있는 회로가 따로 들어가지요. 그걸 생각하면 신경망 기반 번역 기술을 적용한 게 아닌가 싶기도 하네요. 구글 번역기도 기존의 통계 기반 번역(API를 통해 제공)과 신경망 기반 번역(구글 번역 홈페이지로 제공)을 비교해보면 번역품질이 상당히 차이나거든요.

그럼, os 버전의 업데이트는 신경망 가속처리 회로의 프로세싱 성능을 높이기 위한 프로그램 개선을 포함하고 있다고 보면 되나요?

프로세싱 성능을 높인다기보다, 기능 추가 및 개선에 하드웨어 신경망 가속처리를 적용한 게 아닐까 싶네요. 사실 구글 안드로이드에도 알게 모르게 이런 식으로 기계학습 인공지능에 의한 기능 추가 및 개선이 있어왔거든요. 예를 들면 안드로이드 9.0 이후부터는 화면 밝기 조절 등에도 기계학습 인공지능 기술이 적용되었다고 합니다. 사용 패턴 분석을 통해 특정 시간대에 사용될 화면 밝기나 앱을 예측하는 것이죠.

찾아보니 정말 말씀하신 대로 뉴럴엔진이 사용되는것 같습니다.

"해당 번역기는 내장 뉴럴 엔진을 통해서 작동하기 때문에 인터넷에 연결돼 있지 않더라도 온전하게 기능하며, 추후 시리를 이용한 음성 번역 또한 뉴럴 엔진을 통해 제공될 것으로 전망된다. 또한 애플은 사파리를 시작으로 시스템 전반에 자동 번역 기능을 추가할 것으로 보인다. 사파리 외 앱스토어 등 다른 앱에서도 번역 옵션을 테스트 중인 것이 확인되었기 때문이다."

7과 6s는 어떻게 작동하려나요..?

AP내에서 번역에 필요한 어마어마한 빅 데이터를 신경망 처리 분석하지는 않을테니, 그냥 서버가 개선된게 아닐까 싶네요.
신경망 분석이라는게 데이터를 번역에 적용한다는 건데,
분산 컴퓨팅 하는게 아닌이상 어마어마한 데이터를 휴대폰 내에서 개별적으로 처리할 수도 없고, 그렇게 할 필요도 없겠죠.
개인적으로 평서문이라고 바로 WTF나오는게 좋아진건가? 싶기도 합니다.

몇 년 전부터 그 “데이터를 휴대폰 내에서 개별적으로 처리”하기 위한 하드웨어가 실제로 보급되기 시작했습니다. 소위 말하는 NPU라는 것인데, 애플 말고도 화웨이나 삼성전자에서 발표하는 AP에도 실제로 들어가고 있습니다. (https://www.kipost.net/news/articleView.html?idxno=10089 참조) 이렇게 하면 데이터를 서버까지 보낼 필요가 없으니 2가지 장점이 생기지요. 첫째는 통신망을 거치지 않으니 인공지능과 관련된 처리의 반응속도가 훨씬 빨라질 수 있다는 것이고, 둘째는 민감한 정보가 서버에 저장될 우려를 덜 수 있다는 것입니다. 예를 들어 음성AI를 생각해 보죠. 사용자의 말소리를 언제나 듣고 있다가 부를 때만 반응하는 AI 비서를 만든다면, 사용자의 말소리를 서버까지 모두 전송하기보다는 음성 인식과 관련된 신경망을 스마트폰 자체에 구축하는 것이 반응속도로 보나 보안상으로 보나 여러 모로 훨씬 유리할 것입니다. 이렇게 데이터를 중앙 서버가 아니라 최종 사용자와 인접한 곳에서 처리하는 경향을 [엣지 컴퓨팅](Edge Computing)이라 부릅니다.

전 애플기기의 경우 Npu가 A11 부터 들어가고, 신경망에 쓰이는 데이터가 워낙 방대하다 보니 뉴럴엔진을 사용하지 않을 줄 알았는데, 오프라인 번역에서 사용하네요.
음성인식은 ios13 때에 뉴럴엔진을 사용하게된것으로 알고 있어요 :)

Npu 미 탑재 기기인 제 아이패드 프로에서도 번역이 잘 되는걸 보면, 인터넷 연결시에는 서버 번역이고
오프라인시 다운로드한 데이터 + 뉴럴엔진으로 돌리는것 같습니다ㅎㅎ

부가적으로 설명드리자면 구글은 꽤 전부터 기기단에서 오프라인 번역을 지원했습니다. 추론은 상대적으로 낮은 컴퓨팅 파워가 요구되는 덕입니다. 모델 용량도 200~300mb 정도일 거에요. 서버에서 처리하는것보다는 품질이 떨어지겠지만요.

7과 6S도 GPU를 이용하여 딥러닝과 추론 가속을 지원합니다. 애플은 NPU가 아이폰에 탑재되기 이전부터 딥러닝을 몇몇 기능에 사용했어요.
사물이름으로 사진 검색이라던지...
다만 NPU가 탑재되면 전력효율과 성능면에서 이점을 가집니다.

이번에 나온 애플번역도 NPU 미탑재 기기에서 GPU를 이용하여 오프라인 번역을 지원할 겁니다. 속도도 나쁘지 않을거에요.
한번 시도해 보세요.

이 점은 몰랐네요. 감사합니다:) 저도 구글 오프라인 번역은 예전부터 알고 잘 써오고 있었습니다.
전 6s 와 7은 구글 번역 오프라인 번역같이 그냥 일반적인 기계번역,NPU 탑재모델은 신경망 번역을 할것이라고 생각했네요.
제가 지금은 다 떠나보내고 뉴럴엔진이 있는 아이폰8과
번역앱이 없고 시리에 번역기능이 있는 아이패드 밖에 없어서 테스트를 못해보는게 아쉽습니더.

감사합니다. 지식이 늘었어요.

그리고 폰 내부에서 신경망 가속 처리를 하여서 나온결과라면
신경망 가속 처리가 탑재되지 않은 아이폰 7,6s 와 최신 아이폰의 번역 결과가 달라야 하는데, 그럴 것 같지는 않습니다.

가속이 안되면 아예 안되거나 처리속도가 느려지지 다른 결과를 뱉어내지는 않습니다. 근본적으로 튜링머신이기 때문에....
NPU를 쓰는 다른 앱들도 그러합니다...

히익 닉값(?)

물론 가속을 안하고 ap를 통하여 돌릴수도 있죠,
하지만 애플이 뉴럴 엔진을 사용해야 하는 기능을 NPU 미탑재인 Ap의 폰 혹은 패드에게 기능을 제공하지 않는걸 보면 굳이 Ap로도 안돌릴것 같기때문에 말씀하신대로 아예 안돌아가는 케이스로 분류해,번역방법을 다르게해서
신경망 번역 사용과 그냥 단순번역에서 값이 다르게 나올 수 있다고 적은거였어요.

아 그런 의미였군요 알겠습니다.

애플 번역 시스템은 좋아진게 아니라 ios14에 처음으로 탑재된 기능 아닌가요?

번역 시스템 자체는 있었습니다.
다만, 그게 앱으로 존재하는 것이 아니라, 시리를 통해 '통역' 이나 '번역'이란 키워드를 입력해서, 시리 내에서 동작을 시켜야 하는 루틴이 있었을 뿐이지요.