한국 델 테크놀로지스(총괄 사장 김경진)는 9일 본사 발표를 인용, ‘레드햇 오픈시프트 AI를 위한 델 에이펙스 클라우드 플랫폼(Dell APEX Cloud Platform for Red Hat OpenShift AI)’을 출시했다.

‘레드햇 오픈시프트를 위한 델 에이펙스 클라우드 플랫폼’은 레드햇 오픈시프트를 위해 설계된 완전 통합형 애플리케이션 딜리버리 플랫폼이다.

기업이나 공공기관들이 온프레미스에서 가상 머신과 함께, 컨테이너를 구축하고 관리, 운영할 수 있도록 돕는다.

델은 이번에 플랫폼에 ‘레드햇 오픈시프트 컨테이너 플랫폼(Red Hat OpenShift Container Platform)’에 대한 컨트롤 플레인 호스팅 지원을 추가했다.

관리 비용을 줄이고, 클러스터 구축 시간을 단축하며, 워크로드 관리 부담을 줄여 애플리케이션에 온전히 집중할 수 있도록 지원한다.

‘레드햇 오픈시프트 AI를 위한 델 에이펙스 클라우드 플랫폼’은 기업과 기관에서 더 많은 GPU를 활용해 AI 결과물의 범위를 넓힐 수 있도록 설계됐다.

고유한 요구사항에 부합하는 맞춤형 인프라를 구성할 수 있는 유연성을 제공하며, 특히 가장 까다로운 AI 애플리케이션에도 적합한 엔비디아(NVIDIA) L40S GPU를 탑재했다.

규모에 관계없이 설계에 따라 다양한 스토리지 요구 사항에도 대응할 수 있도록 델 파워플렉스(Dell PowerFlex)와 델 오브젝트스케일(Dell ObjectScale) 스토리지를 모두 지원한다.

오브젝트 스토리지는 확장 가능하고 비용 효율적인 데이터 관리를 지원해 대규모 언어 모델과 대규모 데이터 세트를 수용하는 데 이상적이다.

델은 에이펙스 클라우드 플랫폼에서 제공할 수 있는 레드햇 오픈시프트 AI의 잠재력을 실현하기 위해 검증 설계의 디지털 어시스턴트를 업데이트 해 대규모 언어 모델(LLM)과 검색 증강 생성(RAG) 프레임워크를 70억개의 매개변수 모델을 130억개로 늘렸다.

기업 및 각 기관에서는 LLM만으로 조직에 대한 도메인별 최신 정보를 확보하기 어려우므로, RAG를 사용해 자체 보유한 데이터로 LLM을 보강해 최신 정보를 빠르게 학습시킬 수 있다.

델은 다양한 오픈소스 오퍼레이터를 활용해 손쉽게 복제하고 각각의 비즈니스의 요구 사항에 맞게 디자인을 조정할 수 있도록 지원한다.

레드햇 오픈시프트 AI는 특정 퍼블릭 클라우드 전용 툴에 종속되거나, 인프라에 대한 걱정 없이 모델을 구축할 수 있는 협업 기반 오픈소스 도구 세트와 플랫폼을 제공하여 규범적인 AI/ML 제품들에 대한 대안을 제공한다.

델은 또한 AI를 사용해 자동화된 음성 인식(ASR) 및 텍스트 음성 변환(TTS) 기능을 구현하는 솔루션을 선보인다.

혁신적인 설계의 이 오퍼링은 GPU 가속 음성 AI 애플리케이션을 구축하는 마이크로서비스인 ‘엔비디아 리바(NVIDIA Riva)’를 통해 델 에이펙스 클라우드 플랫폼에서 레드햇 오픈시프트 AI의 성능을 확장한다.

이를 통해 자체 자연어 처리(NLP: Natural Language Processing) 솔루션의 배포를 간소화할 수 있다.

한편 델은 서비스 사업부를 통해 레드햇 오픈시프트 AI 플랫폼의 가치 실현 시간을 단축할 수 있도록 돕는다.

델의 검증된 방법론을 기반으로 하는 프로컨설트 자문 서비스(ProConsult Advisory Services)에서부터 구현 서비스에 이르기까지 다양한 고부가가치 AI 활용 사례에 요구되는 성공 전략을 제공한다.

RAG 기술을 활용해 기업의 데이터에 맞게 모델을 맞춤화하고 이를 AI 아바타, 챗봇 또는 기타 애플리케이션에 원활하게 통합하여 보다 관련성 높고 영향력 있는 결과를 도출할 수 있다.

데이터 준비 및 LLM 훈련을 최소화하고, 조직에 요구되는 필수 기술과 모범 사례를 제공해 현재와 미래의 ROI를 극대화할 수 있도록 돕는다.

김경진 한국 델 테크놀로지스 총괄 사장은 “AI 속도 경쟁의 승패를 좌우하는 것은 복잡성을 어떻게 극복하는지에 따라 달려 있다”며 “델은 레드햇과 긴밀한 협력으로 기업이 간소하고 검증된 방법으로 온프레미스에서 이상적인 AI 인프라를 마련해 가치 창출 시간을 앞당길 수 있도록 노력하고 있다”고 말했다.

<김동기 기자>kdk@bikorea.net