사피온(대표 류수정 www.sapeon.com)은 지난 16일 발표를 통해, 전작대비 속도가 4배 향상된 데이터센터 용 AI반도체 ‘X330’을 출시한다고 밝혔다.

‘X330’은 TSMC의 7나노공정을 통해 생산된 제품이다.

사피온은 주요 기업을 대상으로 X330 시제품 테스트와 고객사들과 신뢰성 검증 작업을 진행하고 내년 상반기부터 양산을 시작할 예정이다.

▲ 사피온 ‘X330’.(출처 : 사피온 제공)

먼저, 사피온은 향상된 성능 및 전력효율을 제공하는 X330을 통해 LLM(Large Language Model) 지원을 추가, 전반적인 TCO(총소유비용, Total cost of ownership)을 개선해 AI서비스  모델 개발 기업 및 데이터 센터 시장 공략에 적극 나설 계획이다.

사피온은 X330반도체 HW와 함께 서버 장착시 성능을 최적화할 수 있는 ONNX(개방형 신경망 교환, Open Neural Network Exchange) 기반의 ‘SW 스택(Stack)’을 지원하며, AI 추론 플랫폼 소프트웨어 및 SDK(소프트웨어 개발 도구)도 함께 제공한다.

X330은 추론용 NPU로서 전작인 X220에 비해 응용범위가 표준 기술 기반 하에 대폭 확대됐다.

따라서 보다 다양한 분야와 산업군에서 손쉽게 활용할 수 있는 NPU라고 말할 수 있다.

X330은 기존 X220 대비 4배 이상의 연산 성능, 2배 이상의 전력효율을 확보했다.

이는 2023년 출시된 경쟁사의 5nm 제품 대비 연산 성능은 약 2배, 전력 효율은 1.3배이상 우수한 수준이다.

▲ (출처 : 사피온 제공)

또한 X330은 동영상 관련 프로그램의 처리속도 향상을 위해 비디오 코덱(Video codec) 및 비디오 후처리(video post processing) IP를 내장하고 있다.

X330은 내장된 하드웨어 IP를 통해 4채널 4K 60fps 동영상 입력 처리가 가능하다.

기존 사피온 X220은 고성능 AI 언어 모델(Language Model) ‘BERT’ 추론에서 우수한 성능을 증명했으며, 새로운 X330은 대화형 AI ‘챗GPT’의 원천기술 ‘트랜스포머(Transformer)’ 기반 LLM(Large Language Model) 실행을 달성했다.

사피온은 이같은 성능과 혁신적인 AI 반도체 기술력을 기반으로, SK텔레콤과 협력을 강화해 신규 서비스 시장 공략에 적극 나서고 있다.

특히 사피온은 지난해 12월에 SK브로드밴드 가산 IDC 내에 사피온 AI반도체 X220 장착 서버를 사용해 7.6페타(Peta) OPS 처리량에 달하는 대규모 ‘NPU 팜(Farm)’을 구축했고, 이를 통해 실제 데이터센터 환경에서 서비스를 상용화하고, 운영하는 프로젝트를 본격적으로 추진한 바 있다.

이는 기존에도 소규모 서버 혹은 카드로 AI 모델을 연산 처리하는 실증과제는 다수 존재했지만, 실제 서비스 상용화를 목표로 대규모 ‘NPU 팜’을 구축한 것은 국내 첫 사례다.

무엇보다 사피온은 ‘NPU 팜’ 프로젝트를 통해 이미지 분석, 자연어 처리, 화질 개선 등 다양한 분야에서의 상용화 테스트를 성공적으로 수행해, 비즈니스 모델 확대 가능성을 확인하였다. 

사피온은 이번에 출시한 데이터센터용 AI 반도체 X330과 함께, 향후 자율주행 자동차용 IP(반도체 설계자산), CCTV 등 고성능 엣지 디바이스용 AI NPU 도 선보일 계획이다.

류수정 사피온 대표는 “사피온은 지난 2020년 국내 최초로 데이터 센터용 AI반도체 X220을 발표한 이후 기반 서비스를 다수 제공해 시장에서의 검증을 완료했고, 자동차, 보안, 미디어 등 다양한 분야로 상용 서비스 분야들을 지속적으로 확대하고 있다. X220의 장점을 극대화한 X330으로 AI서비스 모델 개발 기업 및 데이터 센터 시장 공략에 박차를 가할 전략이다. 산업 전분야에서 AI 반도체 활용도를 높여 고도의 AI 기술을 누구나 저렴하게 이용할 수 있게 제공, 모두가 첨단 기술 발전의 혜택을 향유할 수 있는 사회를 만드는데 공헌하고자 한다”라고 말했다. 

사피온은 X330을 SKT의 ‘글로벌 AI 컴퍼니’로 도약을 위한 ‘SKT AI 피라미드’ 전략의 AI 인프라•AIX•AI서비스 3대 영역 중에 근간이 되는 AI 인프라 영역에 적용, 지속적으로 신규 비즈니스 기회를 창출할 수 있는 관련 사업으로도 확장해 나갈 방침이다.

또한 사피온과 SKT는 AI 반도체를 활용해 AI 및 빅데이터 분석을 통한 보이스피싱 방어 및 스팸/스미싱 방지 시스템을 제공, 외부 보안 위협으로부터 고객 보호를 위한 다양한 활동을 진행할 계획이다.

<김동기 기자>kdk@bikorea.net