NIM은 생성형 AI를 위한 추론 마이크로 서비스를 제공하는 솔루션으로 말씀주신 머신러닝 기반의 수치 예측모델 같은 경우는 ML을 가속화 하는 기술은 RAPIDS 기술을 사용해서 가속화 할 수 있습니다. https://developer.nvidia.com/blog/gpudirect-storage/
[질문] VM과 컨데어너의 가장 큰 차이점은 GUEST os의 유무인데 이 GUEST OS가 무겁고 이에 대한 화환성에 문제가 있어서 인것으로 생각되는데 컨테이너가 수만개 만들어서 그것은 관리하기가 어려운데 컨데이터의 구성요소를 좀 더 늘리고 그 수를 줄여서 관리를 좀 더 쉽게 할 수 있는 방안은 없는지요?
(@질문)머신러닝으로 대용량 수치예측 모델을 daily로 수행하던걸 실시간으로 수정하여 전환 하는데 NIM이 어떤 점에서 퍈리함과 성능 향상을 줄 수 있을 까요?