※ 다소 정확하지 않을 수 있으며, 질문과 답변이 '오역 및 의역이 있을 수 있음'을 게시글 등록 전에 미리 밝힙니다.
※ 청중의 질문 세션에 대한 내용은 제외하였습니다.
▶ AMD 회장 & CEO - 닥터 리사 수 회장, 더 버지와의 인터뷰[코드 컨퍼런스 2023 - GPU 부족 / AI(인공지능) 혁명 / 엔비디아와의 경쟁]
▶ H/W(반도체 부문 질문)
[1]. 질문(사회자) : AI(인공지능) 시장에서 AMD가 새로운 몇 가지 소식을 전했는데, 어떤 내용인가? |
☞ 답변(닥터 리사 수 회장) - AI(인공 지능)은 모든 분야의 주제이며, AMD는 실제로 발전시킬 수 있는 컴퓨팅의 모든 기회를 살펴볼 때 작업하고 있음
- 'Lamini(라미니)'라는 AI 스타트 신생 기업과 함께 작업해왔으며, LLM(대형 언어 모델) 분야의 최고 연구원들이었음.
- CEO들과 이야기를 할 때 이렇게 질문함 : 'AI(인공지능)'에 주의를 기울여야 한다는 것을 알고 있고, 내가 무엇을 해야 한다는 것은 알고 있음 하지만, 매우 복잡하고 다양한 요소들이 너무 많음'
- 기본 언어 모델(Llama) : 많은 기업들이 훌륭한 모델을 사용하면 이러한 모델 기반으로 자신만의 '커스터마이징 데이터'를 얻고 싶어하는데, 'Lamini(라미니)' 스타트 신생기업이 수행하고 있음.
- 'AMD 인스팅트' 서버(데이터센터) GPU : 'Lamini(라미니)'는 'AMD 인스팅트' GPU에서 모델의 커스터마이징 및 기업용 모델을 미세조정하여 작동하도록 최적화했는데, 멋진 일이이었음(많은 시간을 투자하여 S/W 및 애플리케이션을 최적화하여 쉬운 기업용 미세 조정 모델을 개발할 수 있도록 지원함) |
[2]. 질문 : '반도체 시장의 모든 프로세스 노드'에 걸쳐서 반도체는 매우 놀라운 제약의 시대를 벗어나고 있는데, 우리가 지금 현재 어디에 있다고 생각하는가? |
☞ 답변 - 지난 30년 동안 반도체 산업에 종사해왔지만, 가장 오랫동안 사람들은 '반도체가 무엇인지, 전체 공급망에서 어디에 적합하고, 응용 프로그램 분야에서 어느 쪽에 필요한가?' 등 이해를 할 수 있었음.
- 지난 몇 년 동안 'COVID-19(코로나 팬데믹)'으로 인한 반도체 수요 & AI(인공지능)로 하는 일로 인해서, 사람들은 이제 반도체에 집중하고 있는 것 같음.
- 엄청난 악순환이 있었는데, 하나는 'AMD가 가지고 있는 것보다 훨씬 더 많은 반도체가 필요한 사이클'였고, 다른 하나는 '반도체가 너무 많은 사이클'이었음
- 하지만, 반도체는 수많은 응용 프로그램 분야에 필수적이라고 생각하며, AMD가 집중하고 있는 부분은 '가장 복잡하면서 최고의 성능을 자랑하는 반도체의 최첨단 기술'이며, 시장이 엄청나게 성장하고 있음. |
[3]. 질문 : 지금 현재 '병목 현상'이 무엇이라고 생각하는 것이 무엇인가?('최첨단' 혹은 반도체 부족 현상 중에 들었던 '이전 프로세스 노드에서 발생') |
☞ 답변 - 업계 전체가 전반적 수요를 충족시키고자 많은 역량을 투입할 수 있는 생태계로 함께 모였다고 생각함
- 일반적으로 GPU를 제외하면 '수요 / 공급' 균형이 꽤 좋은 위치에 있다고 생각함
- LLM(대형 언어 모델) & 추론을 위해서 GPU가 필요하다고 하면 지금 당장은 부족할 것이며 약간 빠듯할 뿐임.
- AMD는 전체 공급망을 강화하기 위해서 엄청난 노력을 기울이고 있음 (이는 수천억 개의 트랜지스터 & 수많은 최첨단 제조 기술 등 세계에서 가장 복잡한 장치 중 일부임) |
[4]. 질문 : 미국이 '반도체 & 과학법'을 작년에 통과시켜서 반도체 팹의 막대한 투자가 이루어졌고, AMD는 세계 최대의 팹리스 설계사인데 눈에 띄는 효과가 보였나? |
☞ 답변 - 미국의 '반도체 & 과학법'은 미국 반도체 산업에 미치는 영향을 살펴보면 정말로 환상적인 일이라고 생각함
- 미국 상무부(장관 : 지나 레이몬도)가 반도체 업계와 함께 산업을 육성하고 있는 일에 대해서 경의를 표하며, 긴 리드 타임이었음 (미국 반도체 생태계는 5년 전부터 구축이 필요했었고, 지금은 선두에서 확장되고 있으나 시간이 걸릴 것)
- 지금은 효과를 느끼고 있는 지는 모르겠지만, 장기적으로 많은 투자를 진행하면 효과는 반드시 나타날 수 있고, 육상 용량(?)에 대해서 기대하고 있음
- '장기적 반도체의 강점 & 리더쉽'을 위해서 매우 중요하기 때문에, 국가 연구 인프라에 대한 일부 투자에 대해서도 매우 기대하고 있음.
|
[5]-1. 질문 : AMD는 몇 년 전보다 훨씬 더 많은 반도체를 판매하고 있는데, 공급품은 어디에서 찾았고 새로운 '반도체 팹'이 나올 때까지는 여전히 TSMC에 의존하고 있는가? |
☞ 답변 - AMD가 하고 있는 사업을 살펴보면 최첨단 기술을 추진하고 있으며, 항상 발전된 노드에서 머물고 있고 차세대 혁신을 이루기 위해서 노력함
- 프로세스 기술, 제조, 디자인, 시스템이 모두 결합되어 있으며 TSMC와의 파트너쉽에 매우 만족함(TSMC는 진보된 최첨단 기술을 갖춘 세계 최고임) |
[5]-2. 질문 : 이게 전부인가? TSMC 등 벗어나서 다양화를 진행할 수 있는가? |
☞ 답변 - 다양화의 핵심은 '지리적 다양성'이라고 생각하며, 자연적 위험이 발생하기 때문에 누구도 같은 장소에 있고 싶어하지 않음 - 미국에 상당한 수의 제조 공장이 건설되고 있어서 '반도체 & 과학법'이 실제로 도움이 되었음. - 실제로 다음 분기에 걸쳐서 생산을 시작할 예정이며, AMD는 미국에서 일부 제조를 적극적으로 수행할 것. |
[6]. 질문 : 인텔 CEO인 '패트릭 폴 겔싱어'가 미국 오하이오에서 반도체 공장을 설립했을 때 인터뷰를 했을 때, '이 반도체 팹 중 하나의 측면에 'AMD 로고'를 붙이고 싶다'라고 언급했었다. 그것을 현실로 만드는 데 얼마나 가까웠나? |
☞ 답변 - 국내 제조에서 확실하게 수많은 기회를 보고 있다고 말하고 있으며, '패트릭 폴 겔싱어'가 야심찬 계획을 가지고 있다고 생각함
- AMD는 항상 최고의 제조 파트너가 누구인지 살펴보고 있으며, 가장 제일 중요한 것은 '최첨단 기술에 헌신하는 사람'이라는 것임. |
[7]. 질문 : 반도체 팹리스 시장에는 TSMC의 경쟁 기업이 있나? |
☞ 답변 - 시장에는 항상 경쟁이 존재하지만, TSMC는 확실히 매우 좋은 편이다.
- '삼성전자'도 확실히 투자를 많이 하고 있고, '인텔'도 있지만, '일본'에서는 첨단 제조업을 육성하기 위한 활동이 있다고 생각함 (다양한 선택지 및 옵션이 있을 것으로 생각) |
[8]-1. 질문 : H/W 부문의 마지막 질문인데, 화웨이 기업 관련해서 많은 논란이 있었고, '7nm 제조공정 기반 반도체'를 내놨는데 지구를 깜짝 놀라게 하는 지정학적 사건(?)으로 보고 있는 것에 대해서 무엇이라고 생각하나? |
☞ 답변 - 화웨의가 내놓은 반도체는 '지구를 뒤흔드는 지정학적 사건(?)'이라고 불러야 할지 모르겠음. (기술이 국가 안보의 중요성으로 간주되는 것은 의문의 여지가 없다고 생각함)
- 미국의 관점에서 볼 때는 이러한 선두를 계속 유지하고 싶다고 생각함 (이번에는 미국 정부가 이 부분에 많은 시간을 투자해다고 생각함)
- AMD는 글로벌 기업이며, 중국은 우리에게 매우 중요한 시장임 (다른 제품에 비해서 더 많은 소비자 관련 상품을 중국에 판매하고 있으며, 지정학적 문제를 어떻게 다루는 균형 잡힌 접근 방식을 가질 수 있는 기회가 있음) |
[8]-2. 질문 : 화웨이가 쫓겨나서 TSMC에 더 많은 공급이 가능해졌다고 생각하는가? |
☞ 답변 - TSMC가 엄청난 양의 반도체 공급을 결정하였다고 생각함 [지난 3~4년의 기간동안 발생한 'CapEX(자본적 지출)' 비용을 생각하면 우리 모두에게 더 많은 칩이 필요하기 때문임]
- 더 많은 반도체가 필요할 때 투자가 이루어지며, 결과적으로 반도체 가격은 더 비싸지고 이는 우리가 구축한 생태계의 일부임. |
▶ AI(인공지능) 부문 질문
[1]. 질문 : '엔비디아 H100 서버(데이터센터) GPU'는 이러한 반도체에 접근할 수 있는 암시장이 존재하며, AMD는 이번 몇 가지 반도체 및 신규 제품을 가지고 나올 것이다. Lamini(라미니)가 'AMD 인스팅트 서버(데이터센터) GPU'에 대한 훈련을 완전히 발표했는데, 엔비디아의 공급이 너무 제한되어 있어서 이번 시장을 혼란에 빠뜨릴 기회로 생각했나? |
☞ 답변 - AI(인공지능) 시장은 지난 10년, 20년 동안 우리가 보았던 기술 동향(인터넷, 스마트폰 혁명, PC가 상황을 어떻게 해서 변화시킴) 등을 생각해보면 10배, 100배 그 이상
- 기업 생산성(개인 생산성)에 대해 언급하자면 생산성 관점에서 대해서 AMD가 할 수 있는 역할을 거대함.
- 이제 'GPU가 부족하다'는 사실은 사람들이 기술의 중요성을 인식하고 있기 때문에 놀라운 일이 아니라고 생각함
- AMD는 '생성-AI(인공지능)'가 시장에 출시되는 지에 대한 초기 단계게 있고, 10년 주기로 보고 있음 (앞으로 2분기 ~ 4분기 동안 얼마나 많은 GPU를 얻을 수 있는 지가 아님)
- AMD는 로드맵을 기대하고 있는데, 고성능 컴퓨팅에 관련해서 '생성-AI(인공지능)'를 고성능 컴퓨팅을 위한 킬러 애플리케이션이라고 부를 것이라고 생각함 (현재 LLM 모델이 훌륭하지만 훈련 & 추론 성능을 계속해서 높이면 좋아짐)
- 'AMD 인스팅트 MI300 서버(데이터센터) GPU(3세대 CDNA 마이크로아키텍처)'는 'LLM의 훈련 & 추론'을 목표로 설계된 GPU이며, 중요한 기회가 있다고 생각함 (클라우드 사용자가 유일한 사용자라는 생각은 사실이 아니며, 많은 스타트업도 AI에 대한 엄청 VC 지원을 하고 있으며, 모든 공간에서 기회로 보고 있음)
|
[2]. 질문 : 'AMD 인스팅트 MI300 서버(데이터센터) GPU(3세대 CDNA 마이크로아키텍처)'는 성능 측면에서 '엔비디아 H100 서버(데이터센터) GPU'과 경쟁 혹은 성능을 초과할 것인가? |
|
☞ 답변 - 교육 워크로드 측면에서 확실하게 경쟁력이 있을 것이며, AI(인공지능) 시장에서는 반도체와 관련하여 모든 경우에 적용되는 일률적 솔루션은 없음
- 훈련에 있어서 예외적인 것들이 있을 것인데, 추론에서도 있고 그것을 어떻게 조합하느냐에 달려 있음.
- AMD 인스팅트 MI300 서버(데이터센터) GPU는 LLM 추론을 위해서 설계하였고, 미래를 내다볼 때 수행되는 대부분 작업은 회사에서 모델의 교육 & 결정을 내리는 것임(추론 시장은 앞으로 더 커질 것이고, 인스팅트 MI300 GPU는 설계한 몇몇 분야에서 잘 적용됨) |
[3]. 질문 : 월 스트리트에서 생각하는 '엔비디아' 모드를 살펴보면 'CUDA'의 독점 소프트웨어 API 스택이며 개발자와의 장기적 관계를 갖고 있다. 하지만 'AMD ROCm'은 약간 다르며, 보다 나은 제품 혹은 개방적 접근 방식으로 극복할 수 있는 해자라고 생각하나? |
☞ 답변 - 시장이 그만큼 빠르게 움직일 때 해자를 믿지 않으며, 생각해보면 사람들이 실제로 많은 변화를 원하지 않는 성숙한 시장임 - '생성-AI'를 보면 일반 개발 환경에서는 몇 달 만에 진행하는 놀라운 속도로 움직이고 있는데, 이에 AMD의 소프트웨어 접근 방식은 '개방형 접근'임 (개방형 접근의 장점은 모든 아이디어를 갖고 있는 회사가 없다는 것이며, 생태계를 많이 통합할 수록 'AI-학습을 가속화하려는 스마트한 개발자들을 모두 활용이 가능함)
- 이분법을 보자면 지난 5년 ~ 8년 동안 S/W 개발자들을 보면 'H/W 전용 S/W'를 사용하는 경향이 있어서 편리했지만, 선택의 여지가 많지 않았기 때문이었음.
- 앞으로는 모든 개발자들이 H/W에 구애받지 않고, S/W를 개발할 수 있는 능력을 찾고 있다는 것을 찾고 있다는 것을 알 수가 있음. (오래된 인프라를 사용하고 싶어하며, 하나의 인프라에서 다른 인프라로 이동이 가능한지 확인하고 싶어함 → 개발자들은 이러한 높은 수준의 S/W 기반으로 구축함)
- 앞으로 10년은 지난 10년과는 많이 다를 것이며, AI(인공지능) 내에서 어떻게 발전하느냐에 달려 있을 것. |
[4]. 질문 : 마이크로소프트의 CTO(최고기술책임자) 'Kevin Scott(케빈 스콧)'에서 "마이크로소프트가 애저 클라우드를 다양화 및 더 많은 AMD 제품군을 배치하고, 고객에게 보이지 않기를 원했다"고 하면 지금 당장은 가능하나? |
☞ 답변 - 저는 '케빈 스콧 CTO'가 훌륭한 사람이라고 생각하는데, '클라우드 & 윈도우 OS 환경' 모두에서 마이크로소프트와 엄청난 파트너쉽을 맺고 있기 때문임 - 케빈 스콧 CTO 혹은 클라우드 벤더사에게 물어보면 그들은 절대적으로 가능하다고 언급할 것임. - 각자 해야 할 업무가 필요하지만 '높은 수준 프레임워크에서 코드 작성'은 상상했던 것보다 작업량이 훨씬 적고, 이를 미래의 'AI(인공지능)-프로그래밍' 물결이라고 믿음. |
[5]-1. 질문 : 매우 높은 비용 곡선에 대해서 스마트한 사람들이 최첨단 제조공정 노드에서 '고급 GPU'를 개발하기 위해서 많은 작업을 하고 있는데, 소비자 가격을 낮추는 비용 곡선은 언제 내려오나? [모든 것이 점점 비싸지고 있고, 응용 프로그램도 얼마나 비싼지를 예를 들어보면 '월 25달러', '월 30달러 제품군(CO-Pilot이 포함된 마이크로소프트 오피스) 등이 있음] |
☞ 답변 - 생산성 측면에서 '생성-AI'를 통해서 얻을 수 있는 가치는 확실히 입증될 것이며, 현재 인프라의 비용은 높지만 다른 측면에서 얻을 수 있는 생산성도 흥미로운 부분임
- AMD 내에서 내부적으로 'AI(인공지능)'를 배포하고 있는데, 반도체를 더 빨리 출시할 수 있다면 엄청난 생산성을 발휘할 수 있어서 우선순위가 매우 높음. |
[5]-2. 질문 : 'AI(인공지능)'이 하고 있는 일을 사람들이 확인하게 하는 것 혹은 그것을 신뢰하는 부분은 어떻게 생각하나? |
☞ 답변 - 확신하고 있으며, 모두 실험 중에 있는데 배포할 수 있는 도구 & 인프라를 구축하는 초기 단계에 있음 [반도체의 전반적 제조과정(설계, 테스트, 검증)을 통해서 절약하든 시간은 돈이라는 것]
- 클라우드 뿐만 아니라 AI에 대해서 폭넑게 생각하는 것이 중요하다고 생각하며, 몇 년 후 생태계가 어떤 모습일지 생각해보자면 가장 큰 기본 모델을 교육하는 클라우드 인프라가 있는 동시에 여러 AI가 있는 곳을 상상이 가능함(PC와 스마트폰 포함)
- 그렇게 한다면 더 저렴하고 빠르면서 더 개인적으로도 존재할 것이며, 이것이 바로 '모든 곳에 AI가 존재한다'는 아이디어이자 배포 방식을 실제로 향상시키는 방법임. |
[6]-1. 질문 : AI(인공지능)의 규제 시행에 대해서는 어떻게 실행할 것인지 생각을 해보면 이렇게 나올 것 같다[예시 : AWS(아마존 웹 서비스), 마이크로소프트 애저 클라우드에 특정 작업 스트림을 실행하지 않도록 지시, 이런 행동은 하지 말라 등). AMD가 노트북에서 리눅스 기반의 오픈 소스 모델을 실행하는 사용자를 위해서 특정한 일들을 발생하지 않도록 할 수 있나? |
☞ 답변 - AI(인공지능)에 관한 부분은 우리 모두가 매우 심각하게 받아들이는 문제이며, 생산성과 발견의 관점에서는 많은 장점이 있지만, AI에는 안전성도 있음
- AMD 또한 대기업으로서 책임이 있으며, 데이터 개인 정보 보호에 관한 2가지 사항과 이러한 모델이 개발될 때 큰 편견 없이 최선을 다해서 개발되도록 전반적인 보장하는 것에 대해 생각한다면, 실수를 할 것이고 업계 전체가 완벽하지 않을 것임
- AI(인공지능)과 규제 관련의 중요성에 대한 명확성이 있으며, 모두가 함께 이를 수행해야 하는데 이를 실현할려면 '공공기관 & 민간기업' 간의 파트너쉽과 협력이 필요하다고 생각함. |
[6]-2. 질문 : 예시로 본인이 규제자라고 했을 때 '난 이 아이들이 화학 무기를 개발하는 데 있어서 어떤 모델을 사용하는 것을 정말로 원하지 않으며, 그 집행을 어디에 적용해야 하는지 알아내야 하니까 마이크로소프트 애저 클라우드에게 '그렇게 하지 마세요'라고 말할 수 있다. 반대로 리눅스를 실행하는 '델 테크놀로지'의 노트북에 AMD 반도체를 장착한 사용자에게는 반도체가 이를 수행하지 않도록 하는 것 외에는 실행 메커니즘이 없는 데, 이 규정을 받아들일 건가? |
☞ 답변 - 해당 질문에 대해서는 묘책이 없다고 생각하며, '반도체가 그렇게 하지 않게 만들 수 있다'는 것이 아님
- 반도체와 모델을 결합하고 나서 몇 가지 보호 장치를 마련할 수 있음 |
[6]-3. 질문 : ① 반도체가 제한되는 종류의 규제를 어떻게 받아들일 것이며, ② 이것이 가장 복잡한 문제 중 하나가 될 것 같고 반도체가 우리가 할 수 있는 일이 제한될 것이라고는 생각하지 않고, 우리가 묻고 답해야 하는 질문인 것처럼 느껴지는 데 어떻게 생각하나? |
☞ 답변 - ① AMD가 마련해야 할 안전 장치가 무엇인지 살펴볼 기회를 받아들여야 할 것임
- ② 반도체 자체만은 아니며, 광범위한 기능을 가지고 있기 때문에 'H/W & S/W, 모델'이 전부 포함됨(모델 측면에서 보호 조치를 취해야 함) |
▶ 게이밍 부문 ☞ 질문 : 소니 '플레이스테이션 5'와 마이크로소프트의 '엑스박스 시리즈 콘솔(X|S)'가 있는데, 클라우드 게이밍이 만물의 미래라고 하는 세계관이 있고, 데이터 센터에도 있게 되므로 매우 좋을 것 같다. 하지만 이러한 변화가 진행되고 있다고 보고 있는 건지, 아니면 콘솔 세대를 아직도 진행하고 있나? |
☞ 답변 - 게이밍은 어디에나 존재하며, 모든 폼팩터에 존재함
- 게임은 콘솔 게임의 끝이 아니며, 그것이 보이지 않음
- PC 게임과 콘솔 게임이 강하고, 클라우드 게임도 다리가 있다고 보며, 비슷한 종류의 기술이 필요하지만 다른 방식으로 사용할 것임. |
팡팡!에 당첨되어 30포인트를 보너스로 받으셨습니다.