AI를 위한 데이터센터 CPU, 5세대 인텔® 제온® 프로세서 심층 분석 [인텔코리아]
토크아이티 프리미엄 웨비나
기술의 Why와 How를 심층 진단!
이런 분들에게 추천드립니다!
AI 구현을 위해 GPU를 사용하는 기업, AI 구현 경량화 검토 기업, 데이터센터 관계자, 클라우드 서비스 사업 관계자, IT 기획, 시스템 벤더 관계자, HPC 서비스 관계자
프리미엄 웨비나 핵심 POINT
01
데이터센터용 5세대 인텔® 제온® 프로세서 주요 Feature
* AI추론 42%, 일반 컴퓨팅 21% 성능 향상 , *64코어, DDR5-5600 메모리 속도, 대용량 LLC 캐시 (기존대비 3배)
02
경량화 AI 구현을 위한 하이브리드 AI
* 지연시간 최소, 비용 및 전력 절감, 개인정보 보호
03
5세대 인텔® 제온® 프로세서의 AI 성능
* 75ms 레이턴시로 Llama2-13B 추론 , *4노드에서 Llama2-70B 추론
04
인텔® 제온® 프로세서 AI 활용 사례
* Stability.ai, IBM 왓슨X, 넷플릭스, Numenta
05
데이터센터 AI 워크로드를 위한 인텔® 로드맵
초거대 언어모델기반 AI를 구현하는데 거대 자본과 인력이 필요합니다.
현실적으로 일반 기업들이 AI를 구현, 활용하려면
경량화된 AI모델 기반의 학습과
클라우드, 엣지, PC에서의 추론이 가성비 좋게 운영되어야 할 것입니다.
12월 14일 출시된 5세대 인텔® 제온® 프로세서가
어떻게 기업들의 경량화된 AI모델 개발과 구현에 도움을 줄 수 있는지 심층 분석합니다.
[구해줘! IT Infra] 채널은 기업의 디지털 전환에 필요한 IT인프라 관련 최신 기술과 운영 방안 등을
사례와 함께 분야 별 전문가들과 함께 논의하고 상담하는 공간입니다.
세션 안내
2024년 1월 23일 (화) 10:00 ~ 11:00 (60분)
SESSION 1
10:00 ~ 11:00 (60분)
주제
AI를 위한 데이터센터 CPU, 5세대 인텔® 제온® 프로세서 심층 분석
게스트
나승주 상무 (인텔코리아 DCAI)
게스트 & 호스트
게스트
나승주 상무
인텔코리아 DCAI
고객의 중요 정보를 보호하고 다양한 위협을 차단하기 위한 기술 제공 및 보안 컨설팅 영역에서 10여년간 활동해 왔습니다., 엔드포인트, 네트워크, 이메일, 서버 등 IT 전반에 걸쳐 금융사 및 엔터프라이즈 기업 고객이 필요로 하는 보안 요구 사항을 만족시킬 수 있는 프로젝트를 성공적으로 진행하고 있습니다.
호스트
고우성 지식PD
토크아이티
테크 전문 진행자 & 프로듀서, 2,000회가 넘는 IT 생방송토크 진행 중, 현) 토크아이티, 매뉴팩처링TV 지식PD & CEO, 전) 서울시 CEO톡, 북포럼, 지글청소년멘토링 운영, 전) 디비코 창업CEO, 전) Sybase Korea, 대우통신, USC Computer Science 석사 (AI 전공), 서울대학교 공과대학 학사 (전기공학)
