DGX A100 장비 한대당 6.5 Kw 의 소비전력이며
보통 1대 기준으로 30A 전기 2라인을 이용하여 완전이중화 구성을 합니다
SuperPOD의 경우 한 랙당 2대나 4대가 구성되며 전기는 마운트 되는 장비 수에따라 바뀐다고 보시면 될 것 같으며
actual 전력 사용량은 풀로드 시 6 Kw 이상 이라고 보시면 될 것같습니다 실제 표기된 소비전력을 거의 다 사용합니다
그렇다면, rack 내에 4대 설치하면, 전원 전력은 30A*8개가 필요한가요?
실 운영시에는 30A 4개면 1랙당 4대의 DGX A100 을 운영하시는데에는 문제가 없습니다
다만 완전 100% 이중화를 위해서는 질문주신것처럼 30A 8개가 필요하며 장비가 셧다운되지 않는정도의 반 이중화구성으로는 30A 4개가 필요합니다
그럼, FLOPS 기준으로 DGX A 100 *4 vs only CPU server * ? 전력 TCO 비교시에도 DGX A 100 전력 TCO가 나은가요? TCO 계산이 안되어서 질문합니다.
GPU 연산을 지원하는 솔루션의 경우 Only CPU Server 는 DGX A100 * 4 의 전력 및 상면의 이점을 가져가기 힘듭니다
[질문] Rack당 공급되는 전력은 얼마이고, actual 전력 사용량은 어느 정도인가요?