컴퓨팅 리소스 (서버)와 데이터를 저장하고 공유할 스토리지, 그 인프라를 이어줄 스위칭 패브릭은 필수 입니다. 분석 대상 용량이 비교적 적을 경우 컴퓨팅 서버 내부 디스크로도 구성하는 경우가 있지만 대부분은 다수의 컴퓨팅 자원을 도입하고 그 서버들이 공유할 수 있는 외장 스토리지로 많이 구성하십니다. 분석 성능을 위해 CPU, GPU를 얼마나 구성할지, 스토리지 성능을 얼마나 구성할지에 따라 확보할 성능은 천차만별이라 보시면 이해가 쉽겠습니다.
어떤 목적을 위한 AI 플랫폼을 구축할 것인지,. 데이터 의 양 ( Training /inference)/ 훈련에 사용할 모델에 따라 어느 정도규모의 GPU 또는 GPU farm을 구축할 것인지를 산정할 필요가 있습니다. 그리고 Training을 완료해야 하는 Timeline이 있다면 그에 따라 H/W 구성이 다를 수 있습니다. 다양한 고려 사항이 있지만, 필수 구축 되어야 하는 부분은 GPU 서버와 데이터를 저장할 수 있는 스토리지 그리고 GPU서버와 스토리지간 원활한 데이터 통신을 위한 네트워크 구축 정도가 필수로 불 수 있을 것 같습니다.
[질문] 클라우드라고 하면 무조건 공기관 제안영업에 철옹성 같은 벽이 큽니다. 도입에 필요한 데모와 Certi 그리고 동등 보장성이 증명되어야 해서 참 어렵습니다. 이에 대한 영업 사례등을 일부 공개나 소개 부탁합니다.
[질문] AI플랫폼 구축 시 인프라 환경 적인 측면에서 필수로 구축되어야 하는 부분은 무엇인지? 하드웨어의 성능은 어느정도로 확보해야 하는지? 궁금합니다.