Milion-X AI를 위해 필요한 제반 기술들은 NVIDIA의 최근 변화를 살펴보시면 힌트를 잘 얻으실 수 있습니다. DL 도메인에서 가속은 가속기의 연산처리속도가 기본적으로 중요하며, 사용하는 datatype에서의 가속성능을 잘 확인하셔야하고, 연산기의 수를 늘여가는 scalability그리고 그때 복수개의 연산기 활용시 성능도 linear하게 증가하는 지가 중요합니다. NVIDIA는 이부분을 위하여 GPU DirectRDMA기술을 기반으로 GPU간 연결에 NVLINK NVSwitch, 심지어는 Node간에서도 GPU간 direct 연결 bandwidth 및 latency보장을 위해 Infiniband를 사용하길 권장하며, 최근 GTC에서는 NVLINK external 을 발표하기도 하였습니다.
질문] Million-X AI를 가속화하기 위해서 필요한 제반 사항들에 대해서 질문드립니다