편집 : 2022.1.20 목 16:14
뉴스
구글 클라우드, 카카오브레인에 ‘클라우드 TPU’ 제공대규모 데이터 최적화된 모델 학습 프로세스 구축
김동기 기자  |  kdk@bikorea.net
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2021.11.27  08:22:14
트위터 페이스북 미투데이 요즘 네이버 구글 msn

구글 클라우드 코리아(대표 최기영)는 지난 26일 공식 발표를 통해, 카카오의 인공지능(AI) 연구 자회사 카카오브레인이 구글 클라우드의 맞춤형 머신러닝 하드웨어(ASIC) ‘클라우드 TPU(Tensor Processing Unit)’를 도입했다고 전했다. 

이를 통해 카카오 브레인은 초거대 AI 언어 모델 ‘KoGPT’의 연구개발 역량을 강화할 수 있게 됐다.

KoGPT는 미국의 AI 연구기관 오픈AI(OpenAI)가 개발한 딥러닝 기반 자연어처리(NLP) AI 모델 ‘GPT-3’의 한국어 특화 버전이다.

카카오브레인은 최근 오픈소스 커뮤니티 깃허브(GitHub)에 KoGPT를 공개한 바 있다.

KoGPT 모델을 학습시키는 데에는 수십억 이상의 데이터와 모델 파라미터(Parameter; 매개변수)가 활용됐다.

이에 따라, 카카오브레인은 대규모 데이터 및 모델 학습에 적합한 리소스를 확보하기 위해 기존의 GPU 서버 환경에 ‘클라우드 TPU’를 추가로 도입하게 된 것.

   
 

‘클라우드 TPU’는 구글 클라우드 AI와 맞춤형 고속 네트워크를 기반으로 기업의 혁신을 가속화한다.

카카오브레인은 클라우드 TPU를 도입해 대규모 모델 학습 시 발생하는 네트워크 병목 현상을 해결하고 60억개의 파라미터와 2000억개 토큰(token)에 달하는 한국어 데이터를 빠르게 처리했다.

이를 통해 언어 모델 연구 및 개발에 소요되는 시간을 단축하고 효율적인 모델 학습 프로세스를 구축할 수 있었다.

사용 편의성과 확장성은 카카오브레인이 ‘클라우드 TPU’를 채택한 중요한 요소.

‘클라우드 TPU’는 팟(Pod) 단위로 할당 및 관리가 가능하며 최소한의 코드 변경으로 최대 2048개의 연산 노드까지 손쉽게 확장할 수 있다.

별도의 인프라를 설치할 필요없이 퍼블릭 클라우드 환경에서 모든 시스템을 사용할 수 있기 때문에 KoGPT의 개발 시간과 비용을 동시에 절감할 수 있었다.

구글 클라우드는 TPU의 차세대 모델 ‘클라우드 TPU V4’를 이미 내부 머신러닝 워크로드에 광범위하게 사용 중이며 가까운 미래에 국내 시장에도 선보일 예정이다.

카카오브레인은 클라우드 TPU V4의 대규모 데이터 학습 테스트에 참여해 클라우드 TPU V4의 상용화를 앞당기는 데 기여하고 있다.

향후 카카오브레인은 ‘클라우드 TPU’를 활용해 텍스트, 이미지, 오디오 등 다양한 의사소통 채널을 활용한 멀티모달(Multi-modal) 모델을 연구 개발할 계획이다.

나아가 기억의 저장 및 학습된 지식 갱신 등 기존 딥러닝 모델의 한계를 극복하는 연구를 통해 사회 문제 해결에 노력할 예정이다.

김일두 카카오브레인 대표는 “구글 클라우드에서 제공하는 클라우드 TPU는 딥러닝에 최적화돼 있어 짧은 기간 안에 고효율의 학습 파이프라인을 구축할 수 있었다”라며 “구글 클라우드와 지속적으로 협력해 초거대 AI 모델의 연구 효율을 한층 더 끌어올릴 예정”이라고 밝혔다.

최기영 구글 클라우드 코리아 사장은 “새로운 시대를 여는 한국어 초거대 AI 모델 개발에 구글 클라우드가 함께 할 수 있어 매우 의미 있게 생각한다”라며 “앞으로도 구글 클라우드의 강력한 AI 및 머신러닝 인프라를 기반으로 한국 기업과 연구 기관이 다양한 분야에서 혁신을 가속화할 수 있도록 적극 지원하겠다”라고 강조했다. 

<김동기 기자>kdk@bikorea.net

< 저작권자 © BI KOREA 무단전재 및 재배포금지 >
김동기 기자의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 미투데이 요즘 네이버 구글 msn 뒤로가기 위로가기
이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
1
<초점>망분리 때문에 클라우드 ‘화상회의’ 도입도 못하나
2
금융IT 업계, 200억대 애큐온저축은행 차세대 ‘시큰둥’
3
값싸고 품질좋은 ‘PPR 솔루션’, 금융권 총공세
4
기업은행, 2022년 상반기 정기인사 단행
5
현대오토에버, ‘2022년 대규모 채용’ 본격화
6
KT알파-한국토지신탁-후오비, 협약
7
삼성전자, ‘갤럭시 엑스커버 5’ 국내 출시
8
KT, 4375억 신한금융지주 지분 취득
9
더존비즈온 등 3사, ‘용인 스마트병원 DX’ 협력
10
‘유플러스 키즈폰 위드 리틀카카오프렌즈’ 출시
회사소개기사제보광고문의불편신고개인정보취급방침청소년보호정책이메일무단수집거부
서울시 영등포구 여의대방로65길 13, 904(여의도동 유창빌딩)| Tel: 02-785-5108 | Fax 02-785-5109
이메일주소무단수집거부 | (주)비아이코리아닷넷 | 대표이사 : 김동기 | 사업자 등록번호:107-87-99085 | 개인정보관리책임자 : 김동기
등록번호 : 서울 아01269 | 등록일자 : 신고일자 2008.10.22 | 발행인:김동기 | 발행일자:2010.06.01 | 편집인 : 김동기 | 청소년보호책임자 : 김동기
Copyright © 2012 BI KOREA. All rights reserved. mail to webmaster@bikorea.net