전문가 Q&A

오라클에 계신 엔지니어마다 의견이 다르겠지만.
첫째, 엔터프라이즈 서비스에 수많은 경험이 있는 유일한 공급업체입니다.
둘째, 성능, 네트워크, 운영의 SLA가 있는 유일한 공급업체입니다.
셋째, Hidden Cost가 적습니다. 일반적인 클라우드 비용에 네트워크 비용이 꽤 많이 발생합니다. (서비스 간, 리전 간 등) 오라클은 네트워크 비용은 Outbound 10TB/월 무료로 비용 절감 효과가 있습니다.

네 RDMA는 원격 호스트간에 통신을 할때, CPU를 거치지 않고 원격 메모리간에 바로 데이터를 엑세스할 수 있기 때문에 지연시간 및 CPU 사용량을 줄일 수 있습니다.

네, 그렇군요, 답변 감사합니다.

단순하게 보자면, SmartNIC은 데이터 처리에 최적화되어 있는 반면, IPU는 데이터 처리및 컨트럴패스까지 처리할 수 있는 CPU가 내장되어 있다는게 차이입니다.

새로운 Interconnect fabric으로 CXL이라고 하는 표준 프로토콜을 컨소시엄 형태로 개발하고 있고 Xeon Sapphire rapids 부터 사용하실 수 있습니다. 궁극적으로 CXL를 지원하는 패브릭 스위치을 이용해서 IPU, GPU, FPGA등과 같은 가속기를 연결하고자 합니다.

새롭게 출시될 폰테베키오에서는 AI에 연관된 특화된 연산능력을 제공합니다. 더 높은 성능을 제공하기 위해 XeLink를 통해 GPU간 큰 연결성을 제공합니다. XMX 코어는 행렬연산에 특화되어 AI 워크로드에서 큰 장점을 발휘합니다.

파이토치는 인텔의 최적화가 계속 반영되고 있습니다. 그리고, 더 빠른 적용을 원하신다면 인텔의 최적화 패키지 (Intel Extensions for PyTorch)가 있습니다.

오 인텔의 최적화 패키지가 따로 존재하는 군요...답변 감사합니다.

상대적으로 크지 않은 모델과 적당한 응답속도라고 볼 수 있겠습니다. 양자화를 통해서 이를 확인할 수 있기 때문에 특정 모델에 대해서 확인하면 됩니다. 성능데이터는 인텔에서 공개하고 있기 때문에 참고하시면 되겠습니다.

Intel CPU는 기존의 x86개발툴들을 계속 사용이 가능 합니다. (오픈소스, 인텔 패럴러/시스템 스튜디오...). 현재 인텔에서는 모든 툴들을 oneAPI로 통합하였습니다. oneAPI 를 이용하시면 CPU뿐만 아니라, GPU/FPGA/AI 가속기등의 SW 개발, 최적화에 이용하실 수 있습니다.

GPU는 빠른 응답속도가 장점이나 기존 장비에 추가해야하는 부담이 있고, CPU는 적당한 응답속도가 가능하면 활용성이 높습니다. 그리고 대량의 데이터를 적당한 시간에 처리하는 배치처리에도 효율성이 높습니다.

[질문] 오늘 주신 여러 답글들 중 흥미로운 답글들이 많이 보입니다. 응답속도는 빠르면 빠를 수록 좋다고 생각하고 있었는데 "적당"하다는 개념을 말씀하시니 응답속도가 너무 빠르면 안좋은 경우가 있음을 말씀하시는 것 같은데 아직 정확히는 모르겠습니다. 적당한 응답속도의 의미와 적당한 응답속도가 필요하여 CPU를 사용해야 하는 경우에 빠른 응답속도를 제공하는 GPU를 사용하면 어떤 안좋은 현상이 나타날 수 있는지에 대해 조금 더 설명해주시면 고맙겠습니다.

적당하다는 것은 서비스의 상황에 따른 개념입니다. 빠르면 빠를 수록 좋겠지만 그만큼 여유가 있다면 서비스제공자의 입장에서는 낭비의 요소가 생길 수가 있다는 점을 생각하시면 될 것 같습니다.

차세대 GPU인 Pontevecchio를 준비하고 있으며, CUDA는 oneDNN을 통해 대응하고 있습니다. PyTorch/Tensorflow와 같은 AI프레임 워크에도 최적화 작업을 진행하고 있습니다.

[질문] 이 답글을 보고 Pote Vecchio GPU를 준비 중이신 것을 처음 알게 되었습니다. 준비 중이시라고 하시니 아직 판매 중은 아니실 것 같은데 인터넷 검색해봐도 아직 판매 관련 정보는 안보입니다. Ponte Vecchio 출시 예정일, Nvidia나 AMD와의 차별화 전략 등의 정보를 조금 더 공유해주시면 고맙겠습니다.

올해 말 이후 Ponte Vecchio 출시 예정입니다. OneAPI 를 통한 다양한 디바이스를 제공합니다. (CPU,GPU,FPGA 등)

가장 좋은 것은 추론작업의 응답속도를 먼저 벤치마크해서 장비당 대응할 수 있는 용량을 확인해보는 것이 좋겠습니다.

oneAPI Toolkit에 Intel xPU 에 최적화 되어 있는 AI Framework들과 SYCL based DPC++ 가 포함 되어 있습니다. 또한 CUDA를 DPC++을 convert 할 수 있는 Tool도 포함하고 있습니다. DPC++/SYCL을 이용하시면 CPU/GPU/FPGA/가속기 모두 사용하실 수 있습니다.

오 oneapi가 cuda를 위한 컨버트 툴도 포함되어 있군요...아주 좋네요...답변 감사합니다.

일반적으로 GPU로 트레이닝하는 경우에 한번에 처리하는 데이터의 제한이 걸릴 수 있습니다. 얘기하신대로 효율적으로 많은 메모리를 활용하는 경우와 전처리 과정 등에서 CPU의 활용성을 높일 수 있습니다

발생하는 이슈에 대해서는 Citrix와 유지보수를 맡고 있는 파트너사가 같이 협업을 통해서 해결해 드리고 있습니다. Citrix Cloud는 기본적으로 SLA 계약을 하고 있습니다.
SLA 관련하여서는 다음의 링크를 참조해주시기 바랍니다.
https://docs.citrix.com/en-us/citrix-cloud/overview/service-level-agreement.html
또한 Citrix의 서포트 체계 관련하여서는 하기 링크에서 더 자세한 내용 확인하실 수 있습니다.
https://www.citrix.com/en-au/support/programs/

아하 그렇군요!! 회신 감사합니다~

DaaS는 클라우드의 장점(자동화, 멀티 테넌시, 확장성 등)을 반영한 새로운 VDI 서비스 입니다.

빠른 설명 감사드립니다 추가 문의 드리면, 혹시 망분리에 DaaS 적용 시 망연계가 되는지요? 아님 망연계솔루션을 추가로 구축해야 되는지요?

MFA 구현도 가능합니다. VM 접속 시 추가 인증은 필요없습니다.

예 그렇군요...vm접속시 추가 인증이 없어서 너무 좋네요..

Redirection기능은 Local PC의 성능을 활용하는 기능이기 때문에 분명 성능의 한계가 있을 수 밖에 없을것 같습니다.

국내 VDI의 환경에서 모두 고민하는 포인트 입니다. Pool 방식 구성 및 App Layering 기능을 통해 OS 업그레이드를 이슈를 회피하는 것을 추천 드립니다.

Pool 방식 구성은 당사도 사용하고있어서 알고있는데... App Layering 기능은 무엇인지? 좀더 설명 부탁드립니다!!!!

App Layering은 OS, 앱등을 각각 별도의 레이어를 생성하여 구성하는 것입니다.
자세한 내용은 하기 링크를 참조하여 주시기 바랍니다.
https://docs.citrix.com/en-us/citrix-app-layering/4.html

감사합니다. 확인해보겠습니다!!

해외 지점 및 지사용 VDI 사례의 대표적인 사례가 삼성전자 사례가 되겠습니다.
해외지점에서 가장 근접한 클라우드 리젼에 VDI 인프라를 배치하게 됩니다.