모델 적용이라는 것이 인퍼런스를 말씀 하신걸로 보이는데요, 인퍼런스 양에 따라 달라질 것으로 보입니다. 그 숫자가 얼마 안된다면 CPU를 쓰셔도 무관할 것 같습니다. 다만 양이 많아진다면 Resnet50 테스트 결과 27배의 성능차이를 보입니다. 대량의 인퍼런스를 위한 서버 구축 시에 GPU가 비용 대비 더 효과적이기 때문에 이미 많은 회사에서 인퍼런스용으로 기존 CPU서버를 대체하고 있는 추세입니다.
[질문] VM과 컨데어너의 가장 큰 차이점은 GUEST os의 유무인데 이 GUEST OS가 무겁고 이에 대한 화환성에 문제가 있어서 인것으로 생각되는데 컨테이너가 수만개 만들어서 그것은 관리하기가 어려운데 컨데이터의 구성요소를 좀 더 늘리고 그 수를 줄여서 관리를 좀 더 쉽게 할 수 있는 방안은 없는지요?
[질문] 모델 학습이 아닌 모델 적용에도 구지 GPU를 사용하거나 Nvidia 제품을 사용해야하는 강점있나요? 가격이 너무 높아서 경쟁력을 만들기 힘든 거승로 알고 있어서 문의드립니다.