AI 연구개발(R&D) 인프라를 빌려 쓸 수 있는 통합 솔루션이 등장했다.

9일, KT(대표 구현모 www.kt.com)는 AI 연구 및 상용화 인프라 환경과 운영 컨설팅을 지원하는 ‘KT 하이퍼스케일(Hyperscale) AI 서비스’를 출시했다고 밝혔다.

KT 하이퍼스케일 AI 서비스는 AI 컴퓨팅 파워, 개발자 툴킷, 전문가그룹의 최적화 및 컨설팅, 데이터센터 등으로 구성된다.

무엇보다 AI 모델 학습, 추론에 최적화된 IPU를 기반으로 안전하고 빠르며 필요한 만큼 추가할 수 있다는 점이 가장 큰 특징.

KT가 도입한 ‘지능형처리장치(IPU, Intelligence Processing Unit)’는 기존 인프라보다 저렴한 가격에 고성능의 AI 컴퓨팅 서비스를 제공한다.

‘그래프코어’의 IPU는 그래픽 처리를 위해 설계된 GPU와 달리 병렬처리에 최적화된 AI 전용 프로세스 칩이다.

▲ KT가 AI 연구 및 상용화 인프라 환경과 운영 컨설팅을 지원하는 ‘KT 하이퍼스케일 AI 서비스’를 출시했다고 9일 밝혔다.사진은 KT 직원들이 하이퍼스케일 AI 존이 구축된 IDC 내에서 장비를 점검하는 모습.(출처 : KT 제공)

미국 퍼듀대 연구에 따르면, 기존 AI 인프라에 비해 IPU는 계산 효율성, 메모리 확장성이 2~16배 향상되는 결과를 보였다.

IPU는 GPU 기반의 동일 구성에 비해 60% 이상 비용이 저렴하고 40~80% 수준의 에너지 효율성까지 갖춰 향후 늘어나는 AI 연구개발 수요에도 에너지 사용량을 최소화할 것으로 기대된다.

‘KT 하이퍼스케일 AI 서비스’는 현재 사용 중인 표준 머신러닝 개발 프레임워크를 모두 지원하고, 관련 모든 라이브러리를 무상 제공한다.

덧붙여 국내 매니지드서비스제공사(MSP) 메가존클라우드와 함께 기존 보유한 AI 모델링을 IPU로 최적화하거나 더 빠르게 추론할 수 있는 AI 모델로 개선할 수 있는 컨설팅 서비스도 제공한다.

또 고집적 및 대용량 AI 인프라에 최적화된 KT 데이터센터를 기반으로 AI 연구개발의 효율성을 극대화할 수 있다.

이를 위해 KT는 메가존클라우드와 협력해 KT의 인터넷데이터센터(IDC)에 ‘하이퍼스케일 AI존’을 구축했다.

‘하이퍼스케일 AI존’이 구축된 KT IDC는 산업표준 인증과 함께 암호화, 엄격한 접근제어로 데이터를 안전하게 보호해주는 역할을 한다.

KT 하이퍼스케일 AI 서비스를 이용하는 기업, 연구기관, 대학, 금융•의료기관 등은 많은 비용이 드는 별도의 인프라 구축없이 AI 연구개발에만 매진할 수 있다는 장점이 있다.

이미희 KT 클라우드(Cloud)/DX사업본부장 상무는 “KT 하이퍼스케일 AI 서비스가 AI에 관심이 많지만 고비용의 인프라 때문에 망설였던 기업과 기관이 AI에 뛰어드는 계기가 됐으면 한다”며 “KT는 백본망과 IDC를 기반으로 AI, 블록체인 등 차세대 핵심기술 개발을 선도할 솔루션을 지속적으로 선보이겠다”고 말했다.

<김동기 기자>kdk@bikorea.net