LLM에 한정된 것은 아니지만, LLM에서 특히 효과적으로 활용하실 수 있습니다.
몇 번 언급된 Transformer engine이 대표적인 이유라고 봐주시면 좋을 것 같습니다.
아 transformer engine에 최적화되었다고 보면 되겠군요...답변 감사합니다,.
[질문] 클라우드라고 하면 무조건 공기관 제안영업에 철옹성 같은 벽이 큽니다. 도입에 필요한 데모와 Certi 그리고 동등 보장성이 증명되어야 해서 참 어렵습니다. 이에 대한 영업 사례등을 일부 공개나 소개 부탁합니다.
[질문] h100이 LLM을 효과적으로 적용하기 위해서 나온 최고 최적으 gpu인지 궁금하고 그 이유가 데이터의 표준화같은 작업이 기존에 비해 더 신속히 가능해서인지 어떤이유인지 궁금합니다.