NVIDIA DGX A100은 '세계 최초' '세계 최대' AI시스템으로 5페타플롭스(PF)의 AI성능을 제공하는 전체 데이터 센터의 성능과 기능을 유연한 단일 플랫폼으로 통합한 최초의 솔루션입니다.
[ DGX A100 특징]
▶ 8개의 NVIDIA A100 텐서코어 GPU 구성으로, 총 320GB GPU 메모리 통해 5 페타플롭스의 AI 성능 구현
▶ 6개의 3세대 NVIDIA NVSWITCH로 양방향 대역폭 4.8TB/s 지원하며, 이전 세대보다 대역폭이 2배 더 증가
▶ 200Gb 속도를 제공하는 Mellanox ConnectX-6 VPI HDR InfiniBand/200GB 이더넷 9개로 클러스터 및 네트워크 구성
▶ 듀얼 64코어 AMD CPU 및 1TB 시스템 메모리 구성으로, 이전 세대보다 3.2배 더 많은 코어로 가장 집약적인 AI 작업 처리 가능
▶ 4세대 NVME SSD(15TB)구성으로, 3세대 NVME SSD보다 2배 빠른 속도 지원
▶ Multi-Instance GPU (MIG) 기능 추가로, 최대 56개의 GPU 인스턴스 생성, 물리적으로 격리된 자원으로 56명이 동시 작업 가능
MULTI - INSTANCE GPU (MIG)
MIG(Multi-Instance GPU)는 A100 GPU를 각각 자체 고대역폭 메모리, 캐시, 컴퓨팅 코어를 갖추고 완전하게 격리된 최대 7개의 인스턴스로 파티셔닝 할 수 있습니다.
DGX A100 에서는 무려 56 (8x7) 개의 GPU 인스턴스로 구성될 수 있으며 이는 관리자가 여러 워크로드를 위해 보장된 서비스 품질(QoS)의G PU를 적절한 크기로 사용할 수 있게 합니다.
이번 웨비나를 통해 DGX A100의 다양한 특징중에 MIG에 대해서 자세히 소개해드리고자 합니다.
시간 | 주제 | 자료 |
---|---|---|
16:00 ~ 16:40 | NEW MULTI-INSTANCE GPU(MIG)로 25명의 개발자/ 56명의 사용자가 동시 공유 가능한 유니버셜 시스템 DGX A100 김세음 팀장(리더스시스템즈) | |
16:40 ~ 17:00 | Q&A |
현재 리더스시스템즈 기술부 팀장
테크 전문 진행자 & 프로듀서
2,000회가 넘는 IT 생방송토크 진행 중
현) 토크아이티, 매뉴팩처링TV 지식PD & CEO
전) 서울시 CEO톡, 북포럼, 지글청소년멘토링 운영
전) 디비코 창업CEO
전) Sybase Korea, 대우통신
USC Computer Science 석사 (AI 전공)
서울대학교 공과대학 학사 (전기공학)
온라인 세미나 참석을 위해 아래 절차를 확인 후 진행해주세요.