한국 델 테크놀로지스(대표 김경진)는 지난 19일 본사 발표를 인용, 엔비디아(NVIDIA)와 엔터프라이즈 AI 적용 확산을 위해 전략적 협력을 강화한다고 전했다.

신규 솔루션 ‘델 AI 팩토리 위드 엔비디아(Dell AI Factory with NVIDIA)’를 비롯해 ‘델 생성형 AI 솔루션(Dell Generative AI Solutions)’ 포트폴리오를 확대하고, 기업과 기관들이 자체 보유한 데이터와 AI 툴, 그리고 온프레미스 인프라를 보다 안전하고 빠르게 통합하여 생성형 AI 투자 효과를 극대화하도록 돕는 것을 골자로 한다.

◆고품질 결과를 위한 고품질 데이터 = 델과 엔비디아는 긴밀한 협력을 통해 델의 엔드-투-엔드 생성형 AI 솔루션 포트폴리오를 강화하고, 고객들이 비즈니스 혁신을 가속화하는 한편 생산성을 높일 수 있도록 지원에 나선다.

- ‘델 AI 팩토리 위드 엔비디아’는 델의 서버, 스토리지, 클라이언트 디바이스, 소프트웨어 및 서비스와 엔비디아의 AI 인프라 및 소프트웨어 팩키지를 결합한 엔드-투-엔드 솔루션으로 고속 네트워크 패브릭을 기반으로 구성된다.

엄격한 테스트와 검증을 거친 랙 단위 설계가 가능하며, 이를 통해 데이터로부터 가치 있는 통찰력과 성과를 이끌어낼 수 있도록 돕는다.

이 솔루션은 또한 엔터프라이즈 데이터 보안 분야의 기존 오퍼링들을 비롯해 보안 및 개인 정보 보호를 위한 델의 서비스 오퍼링과 함께 활용할 수 있다.

‘델 AI 팩토리 위드 엔비디아’는 모델 생성 및 튜닝에서부터 증강 그리고 추론에 이르는 생성형 AI의 전체 수명주기에 걸쳐 다양한 AI 활용 사례와 애플리케이션을 지원한다.

델이 제공하는 프로페셔널 서비스를 활용해 조직에서는 전략을 세우고, 데이터를 준비해 구현하고 적용하기 까지의 과정을 가속할 수 있으며, 조직 전반의 AI 역량을 향상시킬 수 있다.

이 솔루션은 기존의 채널 파트너를 통해 구매하거나, ‘델 에이펙스(Dell APEX)’ 구독형 모델을 통해 도입할 수 있다.

▲ (출처 : 한국 델 테크놀로지스 제공)

- 델 테크놀로지스는 엔비디아와 협력해 ‘엔비디아 그레이스 블랙웰(Grace Blackwell) 슈퍼칩’을 기반으로 하는 랙 스케일 고밀도 수랭식 아키텍처를 채용할 예정이다.

이 시스템은 엔터프라이즈 AI 워크로드의 성능 집적도 향상을 위한 기반으로서 차세대 생태계를 지원하게 된다.

- 델 파워엣지 XE9680(Dell PowerEdge XE9680) 서버는 ‘엔비디아 B200 텐서 코어 GPU’를 포함한 신규 엔비디아 GPU 모델을 지원할 예정이며, 이를 통해 최대 15배 높은 AI 추론 성능과 TCO 절감을 기대할 수 있다.

또한 델 파워엣지 서버는 엔비디아 블랙웰 아키텍처 기반의 다른 여러 GPU와 H200 텐서 코어 GPU, 엔비디아 퀀텀-2 인피니밴드(NVIDIA Quantum-2 InfiniBand) 및 스펙트럼-X 이더넷(Spectrum-X Ethernet) 네트워킹 플랫폼도 지원할 예정이다.

- ‘검색 증강 생성을 위한 델과 엔비디아의 생성형 AI 솔루션(Dell Generative AI Solutions with NVIDIA – Retrieval-Augmented Generation)’은 ‘엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)’의 새로운 마이크로서비스를 활용해 사전 검증된 풀스택 솔루션을 제공함으로써 RAG(검색 증강 생성) 기술 도입을 가속한다.

자체 보유한 고유 데이터 및 지식 베이스와 같이 사실에 근거한 새로운 데이터 세트를 통해 생성형 AI 모델 품질을 개선하고 결과 정확도를 높일 수 있다.

- ‘모델 훈련을 위한 델과 엔비디아의 생성형 AI 솔루션(Dell Generative AI Solutions with NVIDIA – Model Training)은 자체적으로 도메인 맞춤형 AI 모델을 구축하려는 기업 및 기관들을 위해 사전 검증된 풀스택 솔루션을 제공한다.

이와 함께 ‘생성형 AI를 위한 델 프로페셔널 서비스(Dell Professional Services for GenAI)’는 포트폴리오 전반에 대한 통합, 관리, 보호를 지원하여 비즈니스 성과를 더 빠르게 달성할 수 있게끔 돕는다. 델 구현 서비스(Dell Implementation Services)에는 델의 신규 RAG 솔루션 및 모델 훈련을 비롯해 보안 위험을 평가하고 영향을 최소화하도록 돕는 ‘생성형 AI 데이터 보호를 위한 자문 서비스(Advisory Services for GenAI Data Security)’ 등이 포함된다.

젠슨 황(Jensen Huang) 엔비디아 설립자 겸 CEO는 “AI 팩토리는 향후 산업군 별로 인텔리전스를 창출하는 핵심 역할을 할 것”이라며 “엔비디아와 델은 함께 기업이 AI 팩토리를 통해 기업들이 자체 보유한 고유의 데이터를 강력한 인사이트로 전환할 수 있도록 지원하고 있다”고 말했다.

김경진 한국 델 테크놀로지스의 총괄 사장은 “엔터프라이즈 고객들은 복잡한 AI 요구에 대응하고 이를 빠르게 해결할 수 있는 솔루션을 갈망하고 있다. 델과 엔비디아가 협력하는 이유도 여기에 있다”며 “양사의 노력으로 탄생한 턴키 솔루션은 데이터와 사용 사례를 원활하게 통합하고, 맞춤형 생성 AI 모델 개발을 간소화한다”고 덧붙였다.

이번에 발표된 다양한 제품 및 서비스 오퍼링의 출시 계획을 보면,

- ‘델 AI 팩토리 위드 엔비디아’는 기존 채널 파트너를 통하거나, 또는 ‘델 에이펙스(APEX)’ 구독형 모델을 통해 도입할 수 있다.

- 엔비디아 H200 텐서 코어 GPU가 탑재된 델 파워엣지 XE9680 서버는 델 회계연도 2분기(5월~7월)에 출시되며, 엔비디아 B200 및 B100 GPU가 탑재된 XE9680 서버는 4사분기(11월~내년 1월) 내에 출시될 예정이다.

- ‘RAG를 위한 델과 엔비디아의 생성형 AI 솔루션’은 현재 기존 채널 파트너와 델 에이펙스를 통해 전 세계에서 구입할 수 있으며, ‘모델 훈련을 위한 델과 엔비디아의 생성형 AI 솔루션’은 4월에 출시될 예정이다.

- ‘RAG를 위한 델 구현 서비스’는 5월 31일부터 한국을 비롯한 일부 지역에서 제공되며, ‘모델 훈련을 위한 델 인프라스트럭처 구축 서비스’와 ‘델 생성형 AI 데이터 보안을 위한 자문 서비스’는 3월 29일부터 한국을 비롯한 일부 국가에서 출시될 예정이다.

<김동기 기자>kdk@bikorea.net