2023년 9월 21일 1시 30분, '인텔 이노베이션 컨퍼런스(2일차 - 키노트)'가 생중계되었는데요.
당시 게시자 본인도 댓글 생중계를 진행 및 이에 댓글 내용을 전체 취합 및 정리하여
'인텔 이노베이션 2023 컨퍼런스 전체 정리본(2일차 - 키노트)'을 올려드립니다. 많은 도움이 되셨으면 좋겠습니다. 감사합니다
※ 본래 '2023년 9월 21일 새벽 1시에 진행했었으나, 미처 컨디션과 피로 회복이 덜 진행된 관계로 인하여, 부득이하게 키노트 중심으로
댓글 재방송중계로 진행하게 되었습니다. 이 부분은 회원분들께서 넓은 마음으로 양해를 부탁드리겠습니다ㅠㅠ;;
|
[키워드 - 키노트] ▶ 인텔 이노베이션 2023 컨퍼런스 2일차 주요 일정[인텔 CTO & SVP, GM 그렉 라벤더(소프트웨어 & 고급 기술 그룹)] - 오픈 소프트웨어(Feat. 인텔 오픈 생태계 부문 부사장 & 총괄 책임자, Arun Gupta) - 스타트업 개발사를 이끄는 인텔 기술 - 현대적 스튜디오의 경험 - 해커톤의 혁신
|
|
[키워드] ▶ AI(인공지능) 개발자를 위한 '경쟁의 경기장' 평준화 - 더 많은 선택권과 생산성 - '와트 당 성능비' 저하 없음 - 추가 비용 & 부담 없음
▶ AI(인공지능)은 어디에나 있음 - 개방형 생태계 기반으로 구축
▶ 선택 : 생태계 교란 - 새롭고 흥미로운 소프트웨어 AI 언어의 등장 - 대표 언어 : T(불명), JAX, Mojo + OpenXLA
▶ 엣지 및 클라이언트 : '리눅스' 및 '마이크로소프트'의 생태계 활성화 - OpenVINO - ONNX 모델(오픈 신경 네트워크 교환)
▶ 성능을 위한 확장 - AI 배포를 확장하고 AI 개발자의 진입 장벽을 낮춤
▶ 성능을 위한 확장(인텔, 리눅스에 최적화) - 레드햇 리눅스 - 캐노니컬(우분투) 리눅스 - SUSE(수세) 리눅스
▶ AI(인공지능)와 보안의 융합(상호 보완) - AI를 위한 보안 - 보안을 위한 AI
▶ 투명하고 신뢰할 수 있는 공급망
▶ 보안 검증(보안은 인텔에서 시작)
▶ 기밀 컴퓨팅(증명의 중요성)
▶ AI(인공지능)은 어디에서나 존재함 - 개방형 생태계를 기반으로 구축
▶ 끊임없는 혁신으로 만들어가는 미래의 세상
|
|
[인텔] ▶ 인텔의 현재 역사 - 인텔 Tunnel Falls(퀀텀 컴퓨팅) - OneAPI(해커톤, 워크샵) - 인텔 클라우드 개발자 - 인텔 비전 2023(비공식) - 인텔 이그나이트
[인텔 - 지원 프로그램] ▶ 인텔, Lift-Off(리프트-오프) 프로그램 → 초기 단계 AI 스타트업의 AI 솔루션 구축 지원 - 첫째 줄 : Argilla, Weaviate, Hasty, Beewant, EBENBuild, Deep Render, CEREBRA, Churney, Prediction Guard - 둘째 줄 : Digital CORTEX, ISIMA, Synapse Analytics, askui, Titan, TurinTech, Beholder, Kern, Unbox-AI, Cerabyte - 셋째 줄 : Dive, Deep Scenario, KSMVision, EpochZero, Holocron Technologies, ThirdAI, Meili, SnapCALORIE, Signaloid, Stack - 넷째 줄 : Sitemana, NayaOne, Codee, Invisensing, Scala-Biodesign, Dowork.AI, Gnetel, Sematic, Sefi-AI, PONDER - 다섯째 줄 : BosonQ Psi, SimYog, AKULAR, Click-Ins, TOP7, Utpatti, Tomestic, TEXTA, Seekr, Starwit Technologies - 여섯째 줄 : UFORIKA, ADAPTA STUDIO,Pixfield, Enkrypt-AI, TERRAIN, XIMIA, SELECTION, SYNSOR, Virtuleap, VOLTELA - 일곱째 줄 : Waste-Ant, The Mango Jelly, Versy, Syntonym, SoftBrik, SimpleRose, Scaffold-Foundation, MotionsCloud, Moonshot, OmnioFarm - 여덟째 줄 : Levatas, DWS, NG-AVIATION, DONAA, Perception-Health, Parawave, Neurothink, Hairdays, MOD-Tech Labs, Incued - 아홉째 줄 : MicroStream, Market Reader, IANUS-Simulation, ATOLLATECH. LLC, Fashable, Antaris, Hotpot, CLIKA, Circu Li-Ion, DART - 열째 줄 : AUTOFIL, LUMEN, FIVEBRANE, FARMERLINE, Cephable, Anote, LIVR-Studios, Elemental Numerics, AREN, BuildInX
|
|
[H/W - 제품군] ▶인텔 AI(인공지능) : 클라이언트 ~ 엣지, 클라우드까지 확장 ① 딥 러닝 가속화 : 인텔 GAUDI(가우디) AI 가속기 → 딥 러닝 전용 훈련 및 추론
② 일반 가속화(GPU) : 인텔 데이터센터 FLEX(플렉스) GPU, 인텔 데이터센터 MAX(맥스) GPU → 클라우드 게이밍, VDI, 미디어 분석, 실시간 밀도 비디오, 병렬 컴퓨팅, HPC[1. 고성능 컴퓨팅 / 2. AI(인공지능)용 HPC]
③ 범용 가속화(CPU, GPU) → 제품군 : 인텔 제온 서버(데이터센터) CPU, 인텔 코어 클라이언트 CPU(코어, 코어 울트라), 인텔 ARC GPU, 인텔 이더넷 + 인텔 데이터센터 FLEX(플렉스) GPU → 실시간, 중간 처리량, 낮은 지연 시간, 희소 추론, 중소 규모 교육 및 미세 조정, 엣지 및 네트워크 AI 추론, 클라이언트 AI 활용
|
|
[H/W - 클라이언트 CPU] ▶ 인텔 코어 울트라(코드명 : 메테오레이크) 모바일 CPU(범용 가속화 특화) - CPU 코어 : 신규 코어 탑재[P(성능) 코어 & E(효율) 코어] - 제조공정 : '인텔 4' 공정(7nm) - 마이크로아키텍처 : 3D 성능 하이브리드 - 패키지 방식 : 인텔 포베로스 3D 패키징 - 탑재 엔진(프로세서) : AI(인공지능) 엔진, NPU - 최신 미디어 & 디스플레이 표준 규격 지원
|
|
[H/W - 서버(데이터센터) CPU] ▶ 인텔 4세대 제온 서버(데이터센터) CPU 시리즈(코드명 : 사파이어 라피드 / 범용 가속 CPU) ① 인텔 제온 서버 CPU 오리지널(GPT-J100 단어 요약) - 오프라인 모드 : 초당 2단락으로 실행 - 실시간 서버 모드 : 초당 1문단으로 실행
② 인텔 제온 맥스 서버 CPU - GPT-J의 훈련을 달성할 수 있는 유일한 CPU - 정확도 : 99.9%
▶ 인텔, 제온 서버(데이터센터) CPU(코드명 : 그래파이트 라피드)의 성능 벤치마크를 시연 공개 - 메모리 채널 : 12채널 - 메모리 규격 : MCR(멀티플렉서 결합 뱅크) - 메모리 인식 클럭 : 최대 8800MT/s - 메모리 대역폭 : 초당 188MT/s(최대 2.6배)
|
|
[H/W - 서버(데이터센터) GPU] ▶인텔 데이터센터 MAX(맥스) GPU 시리즈 - 일반 가속화 ① 미국 아르곤 국립연구소의 오로라 슈퍼컴퓨터 - 인텔 데이터센터 MAX GPU 설치 개수(63,744개) - 세계 최대의 GPU 클러스터 구성
② 인텔 데이터센터 MAX(맥스) GPU 성능 비교 - 광범위한 과학 작업 부하에 적합 - (경쟁사 엔비디아)H100 서버(데이터센터) GPU 성능 비교 : 최대 30% 속도 향상
|
|
[H/W - 가속기] ▶ 인텔 GAUDI(가우디) AI 가속기(딥 러닝 모델 가속) - 인텔 GAUDI-2 AI 가속기 : 강력한 성능을 제공[경쟁사 비교 : 엔비디아 NVIDIA H100 서버(데이터센터) GPU 대비] - FP8 사용 : 신규 데이터 유형의 '99%의 정확도'를 달성 - 경쟁사(엔비디아) GPU 성능 비교[A100 서버(데이터센터) GPU 대비] : 서버(2.4배) / 오프라인(2배) - GPT 모델(서버 쿼리 및 오프라인 샘플을 위한 인텔 GAUDI-2의 추론 성능) : GPT-J99(78.58/s) / GPT-J99.9(84.08/s)
▶ 인텔 'GAUDI-2 AI 가속기'의 기업 사용 사례(Prediction Guard - CEO 다니엘 화이트넥) - 일반적 텍스트 생성 예시 : 70억 ~ 150억 개의 매개변수 모델을 사용 - 최대 처리량 증가(2배) : 구조화되지 않은 데이터에서 'LLM 기반 정보를 추출하는 것'과 관련된 고객 작업 부하에 대해 10시간을 절약한 것으로 비교 - 인텔 개발자 클라우드 : 전체 프로세스가 쉬워짐.
|
|
[S/W] ▶ 인텔, 오픈소스 및 OneAPI - 개방형 가속 컴퓨팅 - 개발자 비중(48%) ": 두 종류 이상의 프로세서를 사용하는 이기종 시스템을 대상
▶ Codeplay(코드 플레이) - 엔비디아 GPU 및 AMD GPU용 OneAPI 지원(인텔 GPU도 지원) - QR 코드(2개) : 개발자 도구, 플러그인
[S/W - 개발자] ▶ 인텔 개발자 클라우드(주소 : cloud.intel.com) → 지금 클라우드 크레딧을 사용이 가능함!
☞ 소형 모델(추론) → 12월에 공개 예정 ① 인텔 제품군 : 제온 서버(데이터센터) CPU ② 최대 70억개의 매개변수
☞ 소형 모델(추론 & 미세 조정) → 12월에 공개 예정 ① 인텔 제품군 : CPU[제온 서버(데이터센터)] 혹은 인텔 GPU ② 중형 혹은 대형 VM ③ 최대 200억개의 매개변수
☞ 소형 모델(추론) & 대형 모델(추론 & 미세 조정) → 오늘 공식 발표! ① 인텔 제품군 : GAUDI-2 AI 가속기, 인텔 GPU ② 최대 500억개의 매개변수
☞ 대형 모델(훈련) → 2023년도 4분기에 공개 예정 ① 인텔 제품군 : 대량 GAUDI-2 AI 가속기, 인텔 GPU ② 최대 수 천억개의 매개변수
▶ 인텔 개발자 인증 프로그램 공식 발표! - 인증 프로그램 항목 : MLOps 전문가 과정 - 사전 등록 가능 - 공식 출시 예정 : 2023년도 4분기에 공개 예정
|
|
[보안] ▶ 기밀 컴퓨팅[Feat. 기밀 AI(인공지능)] - 인텔 '신뢰성 도메인 확장'(TDX) 기술 - 지금 POC 계획이 가능. - 클라우드 벤더사 ① 알리바라 클라우드(프리뷰 버전) ② 마이크로소프트 애저(프리뷰 버전) ③ 구글 클라우드(개인 프리뷰 버전) ④ IBM 클라우드(프리뷰 버전은 미정)
▶ 인텔, '신뢰성 권한' 기술 공식 발표!(증명 서비스) ☞ 주요 벤더사 - 마이크로소프트 애저 클라우드 - 엔비디아 - Leidos - NoName - SAP - THALES - ZScaler
▶ 암호화 컴퓨팅 - 성능 오버헤드 줄이는 ASIC 가속기 - 인텔 암호화 컴퓨팅 SDK(소프트웨어 개발자 도구) ※ 인텔 Quantum SDK(퀀텀 컴퓨팅 소프트웨어 개발자 도구) 소개
|
|
[벤더사 출연 및 파트너쉽] ▶ 인텔 OneAPI + SYCL
▶ 딥 러닝 라이브러리 : PyTorch(파이토치) + 인텔 - 상위 중 3위의 기여자 - 인텔 전담 관리자 - 기본적으로 최적화
▶ 파이토치 재단 + 'LF AI & DATA'
▶ 리눅스 재단, '통합 가속 재단(UAF)' 결성 발표 - 참여 기업사 : ARM Holdings, 후지쯔, 구글, 이매지네이션, 인텔, 퀄컴, 삼성전자
▶ 인텔 그래뉼레이트 클라우드 사용 사례 - 사용 기업사 : Share-Chat - 사례 : '인텔 그래뉼레이트 클라우드'를 통해 'Kubernetes(쿠버네티스)' 비용을 20% 절감 ① 응답 시간 : 25% 감소 ② 컴퓨팅 비용 : 20% 절감 ③ CPU 사용률 : 25% 감소 ④ 코드 변경 : 0건 ※ 인텔 그래뉼레이트 클라우드 - '데이터브릭스'에 도입을 공식 발표!
☞ 인텔 그래뉼레이트 클라우드(클라우드 최적화 소프트웨어를 사용하여 'Cloudera'에서 아래의 항목으로 감소함) ① 메모리 활용도 : 평균 25% 감소 ② CPU 활용도 : 44% 감소
▶ THALES(신뢰성 암호 데이터 보안 플랫폼) - End-To-End 데이터 보호 관리 - 인텔 채택 기술 : '신뢰성 도메인 확장', '신뢰성 권한' - 출연자 : "디지털 신원 & 보안 / 클라우드 보호 & 라이센스" 부문 글로벌 마케팅 부사장 - Poupak Modirassari-Enbom 등장!
▶ 인텔 코어 울트라(코드명 : 메테오레이크) 모바일 CPU의 파트너쉽 사례 공개 [마이크로소프트, 반도체 그래픽 미디어 & AI 부문(SiGMA) 파트너 그룹 매니저 - 브라이언 랭글리) - 인텔 코어 울트라 모바일 CPU(메테오 레이크) 시리즈와 협력하게 되서 기쁘게 생각함 - Direct-ML(다이렉트-머신 러닝) 지원 기능을 갖춘 최초의 NPU 탑재 - 이번 파트너쉽으로 'Direct-ML(다이렉트-머신 러닝)'의 비교할 수 없는 속도 & 효율성을 추구하는 AI(인공지능) 개발자의 필수 플랫폼으로 승격 - ML(머신 러닝)의 경계를 넓히려는 상호 간의 노력을 강조함.
▶ ZScaler - 널리 인정받은 제로 트러스트 부문의 선두주자 - 인텔 채택 기술 : 신뢰성 권한 - 출연자 : 5G 통신 전략 부문 글로벌 부사장, 켄 어커하트 박사
▶ 리눅스 벤더사 출연사 ① 레드햇 리눅스 '부사장 겸 총괄 책임자' - Gunnar Hellekson 등장! ② 캐노니컬(우분투) 리눅스 CEO, 마크 셔틀워스 등장! ③ SUSE(수세) 글로벌 CTO(최고기술책임자), Brent Schroeder 등장!
▶ 구글 클라우드, "기밀 컴퓨팅 & 암호화" 부문 제품 총괄 관리자(넬리 포터)
|
임시닉네임
