전문가 Q&A

문의 감사드립니다.
아크로니스에서 제공하는 보안 기능은 여러 국제 인증기관에서 검증된 기능입니다. VB 100, AVcompatrtive등 다양한 기관에서 검증 되었습니다. 웨비나 종료 후 설문에 응답하셔서 상담을 신청해 주시면, 보다 자세한 제품 및 비즈니스 상담과 설명을 제공해 드리겠습니다.
꼭 설문에 응해 주시고 상담을 요청해 주십시오.

문의 감사드립니다.
말씀 주신 것처럼 아크로니스는 단일 에이전트를 기반으로 다양한 기능을 제공하고 있습니다.
우려하고 계시는 부분에 대해서는 AV 테스트나 최근에는 CRN 선정 보안 100대 기업 내 선정됨으로써 인증 받은 이력이 있습니다.
자세한 내용은 해당 웨비나 종료 후 상담 신청 주시면, 설명 드리도록 하겠습니다.
감사합니다.

문의 감사드립니다. 아크로니스 데이터 센터에 저장할 경우 아크로니스 데이터 센터 내 에이전트가 백업데이터를 스캔해 맬웨어 감염 여부를 찾게 됩니다. 웨비나 종료 후 설문에 응답하셔서 상담을 신청해 주시면, 보다 자세한 제품 및 비즈니스 상담과 설명을 제공해 드리겠습니다.
꼭 설문에 응해 주시고 상담을 요청해 주십시오.

문의 감사드립니다.
아크로니스의 백업 파일에 대해서 주기적으로 검사 하는등의 기능을 통해서 파일에 대한 감염여부를 확인하고 안전한 파일만 복구 할 수 있습니다. 또한 앤트포인트(컴퓨터)에 설치된 에이전트를 통해서 실시간 보안기능을 수행하고있습니다.

웨비나 종료 후 설문에 응답하셔서 상담을 신청해 주시면, 보다 자세한 제품 및 비즈니스 상담과 설명을 제공해 드리겠습니다.
꼭 설문에 응해 주시고 상담을 요청해 주십시오.

HCSF는 Snapshot과 오브젝트스토리지 복제를 통한 DR 구축이 가능합니다.

실제 AI/ML 분석에는 큰파일 뿐 아니라 작은파일에 대한 Read가 무수히 많이 발생합니다. 이에 대해서는 메타데이터의 성능과 IOPS가 중요한데 타 제품에서 Throughput만 강조하여 큰파일에 대한 성능만 얘기하는 것과는 달리 소개드리는 HCSF의 경우 Throughput 뿐 아니라 높은 IOPS를 제공하여 작은파일부터 큰파일까지 고성능을 제공합니다. 추가로 메타데이터를 전체 노드에 분산 처리하여 메타데이터 또한 고성능처리가 가능합니다.

네, HCSF의 경우 20220/30110의 경우 6노드부터 노드 추가에 따라 사실상 무제한으로 성능이 증가합니다.

이해하고 계신 바가 맞습니다.

아 그렇군요...답변 감사합니다.

1. 기존 사용하시던 분석환경을 검토 후 답변이 가능할 것 같습니다. 2. 성능을 만족시키지 못하는 경우가 많고, 분석환경에서 분석서버와 데이터레이크 간 데이터 이동 과정에서 여러 가지 문제가 발생해 다른 대안을 찾는 경우도 있습니다.

말씀하신 부분이 큰 특징 중에 하나입니다. 또 다른 특징은 NAS의 경우 파일 경로에 대한 관리가 필요한 반면 오브젝트 스토리지의 경우 단일 경로로 접근이 가능하다는 장점이 있습니다. 또한 NAS의 경우 접근할 수 있는 서버들에 제약이 있는 반면 오브젝트 스토리지의 경우 HTTP로 접근이 가능한 모든 장치에서도 파일을 공유해서 사용할 수 있다는 장점이 있습니다.

오 깔끔하게 정리해 주셔서 감사합니다.

엔지니어가 장애 분석을 하기 전, 도입장비 현황 및 히스토리 파악에만 짧게는 수십분에서 길게는 몇 시간 걸립니다. 엔지니어가 고객사의 히스토리를 알고 있다면 벤더에서 엔지니어 할당하는 시간/히스토리 및 현황 분석 등에 대한 시간을 최대한 줄일 수 있으며 효성의 경우 Hitrack이라는 서비스를 통해 엔지니어가 장애상황을 먼저 파악하고 선제대응 할 수 있는 기능을 지원합니다

기존의 일반 NAS에서 제공하는 NFS /CIFS 방식으로는 프로토콜의 제약으로 인해 단일 클라이언트에서 제공할 수 있는 성능이 제약이 있습니다. 이에 기존 고성능 서버 자원을 제대로 활용할 수 없었으나 오늘 소개드리는 HCSF의 경우 단일 클라이언트에서도 80GB/s 이상의 고성능을 제공하므로 GPU, AI/ML용 의 비싼 서버 자원을 최대한 활용할 수 있습니다.

오늘 소개드리는 HCSF는 NVMe 기반의 고성능 병렬파일시스템을 1차 저장소로 두어 Latency와 고성능을 제공하고 오브젝트 스토리지인 HCP를 2차 저장소 티어링하는 구조로 두어 비용과 성능을 효과적으로 관리할 수 있는 솔루션입니다.

효성에서 제공하는 HCSF는 말씀하신 부분에 정확하게 부합하는 제품입니다.
NVMe 기반의 고성능 병렬파일시스템을 1차 저장소로 두어 Latency와 고성능을 제공하고 오브젝트 스토리지인 HCP를 2차 저장소 티어링하는 구조로 두어 비용과 성능 2마리 토끼를 모두 잡을 수 있는 솔루션입니다.

인류가 지금껏 그래왔던 것처럼 어떤 진형에서는 이를 막기위한 규제를 만들려 노력할 것이고 그 나쁜이들은 그것을 피하기 위해 노력하겠지요. 다만 현시점에서 가장 중요한 것은 Model이 학습함에 있어서 인간이 완전히 통제할 수 있도록 하는 것이 우선이지 않을까 생각합니다.

Nemo는 Pytorch를 보다 high-level로 wrapping한 Pytorch Lightning이라고 불리는 툴을 또한번 NVIDIA가 특정 워크로드에 맞게끔 wrapping한 오픈소스 프레임워크입니다.

Nemo의 워크로드에 잘 맞다면 Nemo를 활용하시는 것도 한 가지 좋은 방법이고, 그렇지 않다면 기존처럼 Pytorch를 통해 구현하시는 것 역시 물론 가능합니다.

https://github.com/NVIDIA/NeMo

https://developer.nvidia.com/nemo-llm-service-early-access
해당 페이지에서 신청하시면 되지만, 전세계적으로 지금 Queue가 많이 쌓여있어 당장 활용하시기는 쉽지 않은 점을 양해부탁드립니다..

데이터 정제, ETL 과 같은 전처리 작업에도 굉장히 많은 연산량과 노력이 필요합니다. NVIDIA에서는 이러한 Data science 영역을 GPU로 가속할 수 있는 Rapids/Spark3.x in GPU/nvTabular 등을 통해 해당영역에 대한 가속을 지원하고 있습니다.

DGX Cloud의 경우 NVIDIA 상품이며, 사용자는 NVIDIA에서 제공하는 UI기반으로 job을 실행하는 구조이므로 뒷단의 Cloud업체는 중요하지 않습니다.
부하량 역시 월 단위로 할당받아서 독점해서 활용하는 구조이기 때문에, 전체 리소스가 제공된다고 이해해주시면 좋을 것 같습니다.

[질문] 그렇다면 그리 급하지 않은 job의 경우 스폿인스턴스등을 사용하여 학습을 하는 것과 같은 다양한 사용모델은 없는 것이네요?

네, 월 단위로 8-GPU가 할당된 서버를 할당 받는 단일 pricing 모델을 가지고 있습니다.

[질문] 답변 주셔서 고맙습니다. DGX Cloud의 경우, 사용자가 뒷단의 Cloud 업체에 대해 선택권도 안가지는 것인지 그리고 뒷단의 Cloud 업체에 대해 사용자가 아예 알 필요 없을 경우 여러 Cloud 업체의 대규모 장애가 발생해도 DGX Cloud는 안정적으로 활용 가능할 것 같은데 만약 모든 Cloud 업체들 중 일부 업체들만 정상 서비스가 가능한 대규모 장애가 발생하더라도 DGX Cloud가 안정적으로 서비스 제공 가능한 구조인지 궁금합니다.

안녕하세요, 말씀드렸던대로 Cloud업체 자체가 영향을 미치지는 않을 것으로 생각되지만, 특정 Cloud업체를 선호하신다면 해당 선택지 역시 존재하지 않을까 생각됩니다.
추가로, 서버를 할당받으실 때 고성능 network가 중요하기 때문에 여러 클라우드 업체중 단 하나의 클라우드 업체만 선택되게 될 것입니다.

말씀주신 SLA에 대해서는 필요시 아래 주소로 문의주시면 조금 더 자세한 정보전달이 가능하지 않을까 생각됩니다.
https://www.nvidia.com/ko-kr/data-center/dgx-cloud/

NVIDIA의 Enterprise GPU는 AI의 두번째 물결부터 지금까지 그 수요가 꾸준히 증가되고 있고, 지금의 trend라고 할 수 있는 chatGPT와 같이 Large-scaled LLM 진영에서 이를 학습하기 위해 막대한 량의 GPU가 필요한 상황입니다.
어떻게 될지는 모르겠으나, NVIDIA는 AI가 우리 생활에 도움이 될 수 있게 많은 노력과 기여를 해오고 있습니다.

Large scaled LLM진영에서는 말씀 주신 multi lingual model학습에 대한 연구도 함께 진행되고 있습니다. 이를테면 GPT와 동반 성장중인 T5모델과 같은 경우는 그의 branch겪인 mT5로 multi-lingual model에 대해 연구되었고 계속하고 있는 것으로 알고 있습니다.

아 T5는 멀리 랭기지 모델로 발전하고 있군요...답변 감사합니다.