Milion-X AI를 위해 필요한 제반 기술들은 NVIDIA의 최근 변화를 살펴보시면 힌트를 잘 얻으실 수 있습니다. DL 도메인에서 가속은 가속기의 연산처리속도가 기본적으로 중요하며, 사용하는 datatype에서의 가속성능을 잘 확인하셔야하고, 연산기의 수를 늘여가는 scalability그리고 그때 복수개의 연산기 활용시 성능도 linear하게 증가하는 지가 중요합니다. NVIDIA는 이부분을 위하여 GPU DirectRDMA기술을 기반으로 GPU간 연결에 NVLINK NVSwitch, 심지어는 Node간에서도 GPU간 direct 연결 bandwidth 및 latency보장을 위해 Infiniband를 사용하길 권장하며, 최근 GTC에서는 NVLINK external 을 발표하기도 하였습니다.
*** A사 솔루션을 호주에서 사용하고 있는데요. Region에 따라 속도의 차이가 발생하고 있는데, 담당자들이 인정하지 않고, 실제 어떤것이 문제이고 해결책을 정확하게 이야기 하지 못해주더라구요. GCP는 이런 부분이 해소될수 있는지 궁금합니다.
리전 간 속도 차이는 물리적인 지역이 다르게 때문에 발생할 수 밖에 없습니다. 다만, 그 속도 차이가 얼마나 발생할 수 있느냐의 차이라고 보이는데, 구글 클라우드가 보유한 네트워크 환경으로 그 속도 차이를 굉장히 많이 줄일 수 있다는 것이 장점입니다.
[질문]백업은 일반서비스에 비해 데이타전송량이 많을텐데요 회선 비용은 어떻게 되나요?
각 대역에 마다 종량제와 무제한 요금제가 있어서 유리한 요금제를 선택할 수 있습니다.
기존 private cloud 와 연동은 어떻게 할 수 있나여?
Private 클라우드가 있는 DC에 Express Route 전용선을 연결합니다.
Express Router 사용 많아지면
S텔레콤이 좋겠네요.
국내에는 3개사가 Azure Express Route 파트너사 입니다.
한국 중부센터는 KINX, 세종텔레콤 2개 회사 한국 남부센터는 LG CNS 입니다.
보안상 이렇게 자세히 말씀해 주셔도 되는지요?ㅋㅋ
Azure 홈페이지에 다 공개 되어 있습니다.
아 그렇군요... MS에서 교육받을 때도 따로 이름을 거론하지 않길래요...ㅎ
https://docs.microsoft.com/ko-kr/azure/expressroute/expressroute-locations-providers
여기에 나와 있습니다.
질문] Million-X AI를 가속화하기 위해서 필요한 제반 사항들에 대해서 질문드립니다