“은행에서 자체 GPT(Generative Pre-trained Transformer)를 구축, 업무를 혁신하고 인력을 재배치할 수 있다면 1조원 정도 투자할 의향이 있습니까”

결론은 ‘Yes’다. “다만, 기술적 또 성공가능성에 대한 확신이 있을 때만…”

최근 금융권 인사들과 나눈 얘기 중 하나다. 

챗GPT 확산으로 국내외 금융권이 일부지만, 업무 프로세스 혁신에 적용할 ‘자체 GPT 구축’을 검토하고 있어, 업계 이목이 쏠리고 있다.

A은행은 글로벌 업체들을 중심으로, 해당 A은행 전용으로 사용할 수 있는 자체 GPT 도입을 전제로 시장조사에 한창이고 적어도 1000억원 가량 사업 추진 의사를 전한 것으로 알려졌다.

현재 GPT는 글로벌 IT업체들을 중심으로 클라우드 기반 서비스를 제공 중이다. 일부 챗GPT는 유료로 서비스 중이다. 

은행 ‘자체 업무혁신’이라는 주제에, ‘클라우드 기반의 유료서비스’를 이용하기 보다 자체 GPT를 도입해 업무 곳곳에 배치하고자 하는 내적 요구가 늘어나고 있는 것. 

특히, 기존 RPA가 비용대비 ‘인력재배치’ 등 효과가 미미하다는 결론 속에, 인공지능 시대를 대비하는 적극적 발상으로 ‘자체 GPT 보유’를 검토하게 된 것으로 풀이된다. 

실제로 지난 6월 KB금융지주 경영연구소의 ‘챗GPT 등장이 앞당긴 AI 패러다임 변화’ 보고서에 따르면, “일반 기업들의 경우 이러한 파운데이션 모델을 도입해 자사의 데이터를 추가 학습하는 방향으로 AI 도입 전략이 변화할 것으로 예상”한 바 있다. 

※파운데이션 모델 = 방대한 양의 데이터를 ‘자기지도학습(Self-supervised learning)’으로 사전 학습한 일종의 ‘범용적인 인공지능 모델’을 의미.

다만, 이같은 금융권 움직임에 난관도 적지 않다. 

먼저, 막대한 투자비용이다. 

글로벌 IT업계 한 관계자는 “글로벌 IT업체들이 운영하는 각각의 GPT 서비스에 적어도 대형 규모 데이터센터 3개는 돌려야 한다”며 “여기에 GPT 운영에 필요한 데이터 축적 및 시간까지 약 1조원 이상 투자가 불가피하다”고 전했다.

반면, 다른 관계자는 “그건(3개 데이터센터 운영) 범용 GPT 모델이나 그렇지(필요하지), 은행이 유니크(unique)하게 활용하는 건, 1개 데이터센터 만으로 충분하다”고 전하기도 했다. 

각 금융회사별, 또 GPT 모델의 적용 업무 범위에 따라 볼륨 차이가 발생할 것으로 예상되는 대목이다.

그럼에도, 막대한 투자비용은 불가피하다는 게 공통된 의견이다. 

아울러 GPT 모델이 막대한 데이터 축적 및 이를 분석해 적용하는 방식인데, 현재 금융회사들이 그같은 준비가 돼 있느냐 하는 점이다. 

금융IT 업계 한 관계자는 “금융회사가 내부 업무에 GPT 모델을 적용한다고 하면, 굳이 비정형 데이터까지 염두에 둘 필요는 없다”고 전제한 뒤, “금융회사별 자체 업무 데이터는 얼마든지 쌓여있다. 시간과 데이터 양에 대해 걱정할 필요는 없다. 이를 어떻게 가공해 GPT 모델에 연동, 적용할지 대한 각론만 남을 것”이라고, 금융회사 GPT 자체 구축에 긍정적인 신호를 보내기도 했다.

KB금융지주 경영연구소의 ‘챗GPT 등장이 앞당긴 AI 패러다임 변화’ 보고서도, “기업이 가진 고유의 데이터를 파운데이션 모델에 학습시키는 파인튜닝을 통한 AI 도입 전략으로 변화할 가능성이 점증”할 것으로 전망했다. 

적어도 10년 이상 데이터 수집, 1조원대 투자를 전제로 한 금융권의 ‘자체 GPT 구축’ 움직임에 인공지능 업계가 어떻게 화답할지, 또 그 거대 담론을 어떤 금융회사가 먼저 추진할지 업계 관심이 모아지고 있다. 

<김동기 기자>kdk@bikorea.net