GPT와 같은 Large Scaled LLM model은 크기에 따라 다르지만 연산량이 기본적으로 굉장히 많고 transformer라는 model logic을 기반하기에 NVIDIA는 이 Transformer를 가속하기 위한 Transformer Engine을 HW적으로 지원하고, 이를 활용해서 학습 및 추론을 가속할 수 있게 하는 SW framework 혹은 solution을 제공하고 있습니다.
클러스터 구성시 VM당 공유볼륨에 대해 iscsi ip를 설정해야하는데요, 해당 ip설정시 CVM IP와 동일한대역을 써야만 원활한 통신이 되던데요.. CVM과 다른대역으로 공유볼륨ip를 설정했을때는 패킷손실이 났었습니다. 이점은 개선이 되었나요?
이 부분은 네트워크 구성을 어떻게 하엿는지 확인이 필요합니다.
뉴타닉스내에 여러 ip대역이 구성되어 있습니다. (vlan)
vlan 이 아닌, 물리적인 구성, 즉 라우팅등을 확인할 필요가 있습니다. 정확한 구성및 설정에 대한 정보가 없이는 회신을 드리기 힘듭니다. 저희 기술지원팀에 문의해 보셨는지요??
[질문] 챗GPT에 특화되는 엔비디아 GPU만의 특화기능이나 기술적인 특징은 무엇인가요?