편집 : 2024.4.22 월 14:55
뉴스
업스테이지, AWS 기반 ‘소형언어모델’ 출시기업 생성형 AI 앱 구축 •확장 지원 등
김동기 기자  |  kdk@bikorea.net
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2024.03.21  13:40:55
트위터 페이스북 미투데이 요즘 네이버 구글 msn

아마존웹서비스(Amazon Web Services, 이하 AWS)는 21일 한국의 인공지능(AI) 스타트업 업스테이지(Upstage)가 AWS에서 자사의 주력 제품 ‘솔라 미니(Solar Mini) 소형언어모델(SLM)’을 출시했다고 발표했다.

‘솔라 미니’는 한국어와 영어로 이해와 요약, 번역 및 새로운 콘텐츠 예측 등 다양한 언어 작업을 수행하도록 쉽게 맞춤화하고 미세 조정(fine-tuning)할 수 있는 다목적 모델로, 추후 태국어와 일본어로도 제공될 예정이다.

업스테이지 이용자들은 솔라 미니를 활용해 자사 모델을 처음부터 훈련시킬 필요 없이 생성형 AI를 쉽게 시작할 수 있으며, 산업별 사용 사례에 적합한 새로운 애플리케이션을 출시할 수 있다.

21일부터 ‘솔라 미니’는 파운데이션 모델(FM)을 제공하는 머신러닝(ML) 허브 ‘아마존 세이지메이커 점프스타트(Amazon SageMaker JumpStart)’와 타사 소프트웨어 공급업체의 솔루션을 쉽게 배포할 수 있는 AWS의 엄선된 디지털 카탈로그 ‘AWS 마켓플레이스(AWS Marketplace)’에서 만나볼 수 있다.

업스테이지 이용자들은 메타버스 엔터테인먼트(Metaverse Entertainment), 쿼라(Quora), 커넥트웨이브(ConnectWave), 콴다(Qanda) 등 국내외 기업에서 이미 사용하고 있는 도메인별 학습 데이터를 활용해 솔라 미니를 미세 조정할 수 있다.

윤정원 AWS코리아 공공부문 대표는 “AWS상에 구축된 업스테이지의 솔라 미니는 모든 규모의 기업이 다양한 지역의 요구사항에 따라 생성형 AI를 쉽게 도입할 수 있도록 지원하는 솔루션”이라며 “언어 모델은 빠르게 진화하고 있으며, 이같은 혁신의 최전선에는 AWS의 안전하고 확장 가능한 스택(stack)이 있다. 업스테이지는 이런 역량을 활용해 AI 제품을 확장하고, 다양한 산업에 생성형 AI를 애플리케이션에 쉽게 배포할 수 있는 도구를 제공하고 있다”고 말했다.

   
(이미지 출처 : AWS코리아 제공)

언어 모델은 컨텍스트, 메모리 기능 및 텍스트 생성을 제공해 생성형 AI 서비스를 가능케 한다.

SLM은 수천억개의 파라미터를 사용하는 대규모 언어 모델(LLM)에 비해 경량으로, 200억개 미만의 파라미터를 사용한다.

솔라 미니는 107억개의 파라미터로 구성된 더 작은 학습 데이터세트로 추론(학습된 ML 모델을 사용해 새로운 입력 데이터를 기반으로 예측을 수행하는 과정)을 더 낮은 비용으로 실행할 수 있다.

김성훈 업스테이지 대표는 “업스테이지는 사업 시작 단계부터 글로벌 AI 플레이어로 거듭날 수 있도록 준비해왔다”며 “업스테이지는 AWS를 클라우드 우선 사업자로 선정하고, 크레딧과 기술 지원을 제공하는 AWS 액티베이트(AWS Activate) 등의 지원 프로그램을 통해 업스테이지의 스타트업 여정을 시작하고 비즈니스를 빠르게 확장했다. 아마존 세이지메이커 점프스타트에서의 솔라 미니 모델 출시로 전 세계 기업들이 한국에서 가장 높은 다목적성을 갖춘 LLM을 이용할 수 있는 새로운 가능성을 열었으며, 이를 통해 AWS와의 협업을 한층 강화하게 되어 기쁘다. 업스테이지는 AI 환경을 재정의하고 기업 애플리케이션을 위한 가장 안정적이고 혁신적인 AI 솔루션을 제공하기 위해 최선을 다하고 있다”고 말했다.

업스테이지는 솔라 미니를 학습시키기 위해 우수한 컴퓨팅 성능과 비용 효율성을 갖춘 AWS를 선택했다.

한국어에 특화된 LLM 개발을 위해 ML 모델 개발 및 배포 서비스 ‘아마존 세이지메이커(Amazon SageMaker)’를 활용했으며, 업스테이지가 설립한 업계 얼라이언스 ‘1T 클럽(1조 토큰 클럽)’에서 제공한 데이터를 사용했다.

여기에는 업스테이지의 고급 데이터 전처리(입력 데이터를 학습에 사용하기 전에 준비 및 정리하는 단계)와 검색 증강 생성(Retrieval-Augmented Generation, RAG – LLM의 출력을 최적화하는 과정) 등의 미세 조정 기술을 사용했다.

텍스트, 서적, 뉴스 기사, 보고서, 논문 등 저작권이 없는 다양한 고품질 한국어 학습 데이터로 구성된 이 데이터는, 문화적 뉘앙스에 대한 솔라 미니의 이해를 발전시키는 동시에 응답의 정확도를 높여 잘못되거나 부적절한 답변을 생성하는 ‘AI 할루시네이션(AI hallucination)’을 방지한다.

2023년 12월, 솔라 미니는 글로벌 AI 플랫폼 허깅페이스(HuggingFace)의 오픈 LLM 리더보드(Open LLM Leaderboard)에서 모델의 추론, 상식 추론, 할루시네이션 방지, 컨텍스트 이해, 사실 정확도 등을 아우르는 우수한 설계로 74.2점을 기록하며 오픈소스 대규모 SLM AI 모델로 인정받았다.

이같은 평가는 솔라 미니가 더 큰 모델과 동등하거나 그 이상의 성능을 발휘해 복잡한 언어 작업을 효율적으로 수행할 수 있는 그래픽 처리 장치(GPU) 비용을 대폭 절감할 수 있음을 입증한다.

◆전 산업에서 생성형 AI 혁신 가속화 = 이커머스 솔루션 제공업체 ‘커넥트웨이브(ConnectWave)’는 자사 가격비교 웹사이트 다나와, 에누리에서 전자상거래 현대화, 배송 추적, 문의 및 반품 상담을 자동화하기 위해 14억개의 제품에 대한 자체 데이터를 솔라 미니로 학습시켜 프라이빗 LLM을 구축했다.

손경성 커넥트웨이브 수석 부사장은 “업스테이지의 고급 모델을 AWS상의 데이터세트와 원활하게 통합해 이커머스 애플리케이션을 위해 특별히 설계된 맞춤형 프라이빗 LLM을 성공적으로 구축했다”고 말했다.

예컨대, 에듀테크 기업 콴다는 업스테이지와 협력해 학생들에게 수학적 능력을 향상시키는 데 필요한 도구를 제공하고 있다.

콴다는 솔라 미니를 통해 수학적 추론을 토대로 문제를 해결하고 설명과 함수를 공식화할 수 있는 특화된 언어 모델을 개발하고 있다.

조민규 콴다(매스프레소) 사업본부장은 “업스테이지와의 파트너십을 통해 최첨단 모델 개발을 가속화하고 학생들에게 새로운 기능을 제공할 수 있게 됐다”고 말했다.

한편, AWS는 2023년 10월, 클라우드 서비스에 대한 국내의 수요 증가에 대응하기 위해 2027년까지 국내 클라우드 인프라에 7조 8500억원(미화 약 58억 8000만 달러)을 투자할 계획이라고 발표했다.

이번 투자는 2027년까지 한국의 국내총생산(GDP)에 15조 6000억원(미화 약 112억 8000만 달러)을 기여하고, 연평균 1만 2325개의 전일제 환산(FTE) 일자리 창출을 지원할 전망이다.

<김동기 기자>kdk@bikorea.net

< 저작권자 © BI KOREA 무단전재 및 재배포금지 >
김동기 기자의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 미투데이 요즘 네이버 구글 msn 뒤로가기 위로가기
이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
1
KB금융, ‘VM웨어 가격인상’에 그룹 차원 대응나서
2
<초점>구독형 폭풍에 금융권 “나 지금 떨고 있니”
3
“AI 코드 어시스턴트 사용 2028년까지 급증” 전망
4
‘네이버페이 x 삼성페이’, 전국 143만 결제처 이용
5
딥브레인AI, GPT 스토어에 ‘AI 스튜디오스’ 출시
6
<초점>코스콤 대표 선임 및 차세대 전망은
7
하나은행, ‘인천국제공항지점’ 이전 개점
8
델 ‘파워엣지 서버’, 인텔 가우디3 AI 가속기 지원
9
에이아이트릭스, ‘대한외상중환자외과학회 런천 심포지엄’ 마쳐
10
KT, ‘3대 AI 전력 절감 기술’ 공개
회사소개기사제보광고문의불편신고개인정보취급방침청소년보호정책이메일무단수집거부
서울시 영등포구 여의대방로65길 13, 904(여의도동 유창빌딩)| Tel: 02-785-5108 | Fax 02-785-5109
이메일주소무단수집거부 | (주)비아이코리아닷넷 | 대표이사 : 김동기 | 사업자 등록번호:107-87-99085 | 개인정보관리책임자 : 김동기
등록번호 : 서울 아01269 | 등록일자 2010.06.18, 신고일자 2008.10.22 | 발행인:김동기 | 발행일자:2010.06.01 | 편집인 : 김동기
청소년보호책임자 : 김동기
Copyright © 2012 BI KOREA. All rights reserved. mail to webmaster@bikorea.net