인텔 라이브러리를 사용하시면, Runtime에 CPU를 인식하며, 최적의 code 를 패치하여 사용하게 됩니다. 그래서 인텔 라이브러리를 사용하시는 것을 추천드리고요, 기존의 레거시 코드의 경우, 최신 인텔 최적화 툴과 컴파일러를 이용하여 추가적인 최적화를 추천해 드립니다.
Intel CPU 최적화를 위해서는 Intel에서 제공하는 최적화툴을 이용하시는 것이 제일 빠른 방법입니다. oneAPI Toolkit에 VTune, Advisor 등을 이용하시면 됩니다. 아울러 인텔 사이트에서 많은 문서와 비디오, 사용사례를 제공하고 있습니다. 이를 참조 하시면 되고요, 기술 질문은 Forum, Community, Intel Priority Service등을 이용하실 수 있습니다.
oneAPI Toolkit 중에, oneAPI AI Analysis toolkit을 설치 하셔서 사용하시기를 권장해드립니다.
네, 가능합니다. 최신 oneAPI Toolkit이 Intel Dev Cloud에 설치되어 있습니다.
인텔에서 oneAPI를 통해 제공되는 Intel Optimized DL framework로 개발을 시작하시는 것이 좋은 방법입니다.
인텔에서는 SW는 오픈소스화를 지향하고 있습니다. 일부 기술지원에 한해서만 유료 라이센스를 제공하기도 합니다. 인텔의 xPU 비즈니스를 위해서 SW개발 eco system 에 투자를 하는 것으로 이해하시면 좋을 것 같습니다.
인텔 oneAPI에서 다양한 라이브러리를 제공하고 있습니다. 딥러닝용 oneDNN, cluster training 을 위한 oneCCL. 아울러 Intel Device 에 최적화 되어 있는 DL Framework와 Python 및 최적화 Tool을 제공 하고 있습니다.
Intel CPU는 기존의 x86개발툴들을 계속 사용이 가능 합니다. (오픈소스, 인텔 패럴러/시스템 스튜디오...). 현재 인텔에서는 모든 툴들을 oneAPI로 통합하였습니다. oneAPI 를 이용하시면 CPU뿐만 아니라, GPU/FPGA/AI 가속기등의 SW 개발, 최적화에 이용하실 수 있습니다.
Intel oneAPI toolkit은 opensource based SYCL 기반의 DPC++ 를 제공하고 있습니다. 이를 이용하시면 특정 기업의 device용이 아닌 Intel Device 뿐만 아니라, 타사 device 모두 지원이 가능 한 SW 개발이 가능 합니다. oneAPI 기반의 SW 개발 eco system 구축을 위해 투자를 하고 있습니다.
oneAPI Toolkit에 Intel xPU 에 최적화 되어 있는 AI Framework들과 SYCL based DPC++ 가 포함 되어 있습니다. 또한 CUDA를 DPC++을 convert 할 수 있는 Tool도 포함하고 있습니다. DPC++/SYCL을 이용하시면 CPU/GPU/FPGA/가속기 모두 사용하실 수 있습니다.
네, 말씀하신대로, 현재 많은 데이터센터에서 xPU의 이기종 환경을 고려하고 있고 상호 호환성이 주요 문제로 대두 되고 있습니다. 인텔 oneAPI 가 이 문제를 해결할 수 있는 솔루션으로 인텔이 제시하고 있습니다. oneAPI를 이용하시면 한번의 개발 (프로그래밍)으로 다양한 xPU(CPU, GPU, FPGA, 가속기)위에서 워크로드를 수행 하실 수 있습니다.
비용 (에너지) 측면에서 CPU가 장점이 있습니다. CPU AI service (Inferencing)이 가능하다면 고비용의 GPU 시용 하지 않아도 될 것 같습니다. 즉, training은 GPU 하고 실제 모델과 서비스는 CPU에서 deploy 하시면 될 것 같습니다.