정해져 있지 않은 불특정 워크로드를 염두하고 GPU 서버팜을 구성하신다면, MIG를 사용할 수 있는 A100을 추천드립니다. A100은 하나를 온전히 쓸 수도 있고 MIG로 7개로 나눠서 쓸 수 있으며, container와의 연동도 가능하여 말씀하신 환경에 적합할 것 같습니다.
[질문] VM과 컨데어너의 가장 큰 차이점은 GUEST os의 유무인데 이 GUEST OS가 무겁고 이에 대한 화환성에 문제가 있어서 인것으로 생각되는데 컨테이너가 수만개 만들어서 그것은 관리하기가 어려운데 컨데이터의 구성요소를 좀 더 늘리고 그 수를 줄여서 관리를 좀 더 쉽게 할 수 있는 방안은 없는지요?
[질문] 기업의 워크로드가 변할텐데요. GPU를 모델을 고정하면 다른 워크로드 적용시 최고의 성능을 내지 못할 수도 있지 않을까요? 이런 경우는 클라우드 환경에 구성하는게 더 효율적일 수 있을까요?