“유닉스와 IBM 호환 PC 전성기를 떠올리게 해”

복잡하고, 어렵고, 비용이 많이 드는 기술이 어느 순간 보편적이고 대중적인 기술이 되는 과정을 우리는 숱하게 보아 왔다. 대표적인 예가 데스크톱 PC이다.

◆“기술 발전사는 되풀이된다!”

전산실에 고이 모셔둔 대형 컴퓨터를 여럿이 사용 시간을 할당 받아 쓰는 것이 당연하던 시절이 있었다.

당시 ‘디지털(DIGITAL)’이란 기업이, 유닉스를 올릴 수 있는 미니컴퓨터를 내놓으면서 시장에 파란을 일으켰다.

전문가 세상에서 일어난 이 파장은 메인프레임 시대를 뒤로하고 유닉스가 기업 IT 환경의 중심에 서게 하는 계기가 됐다.

그뿐만 아니라 모든 이들의 책상 위에 컴퓨터를 올려놓겠다는 야심 찬 행동에 나선 기업들의 등장도 이끌었다.

이것이 우리가 아는 IBM 호환 PC 전성기이다.

1970~90년대 꽃을 피운 유닉스와 데스크톱 PC 혁명과 유사한 변화를 2017년 우리는 또다시 목격하고 있다.

◆“책상 위 슈퍼컴퓨터 시대”

2017년 인공지능이 대세가 되면서, 우리는 딥러닝 대유행 시대를 살고 있다.

불과 몇 년 전만 해도 딥러닝은 누구나 활용 할 수 있는 영역에 있지 않았다. 사용할 데이터도 넉넉하지 않았고, 제대로 된 계산을 하려면 시스템 부담이 컸다.

개발 환경 역시 데이터 과학자가 셀프서비스로 주변 도움 없이 챙겨야 할 것이 많았다. 사정이 이렇다 보니 딥러닝을 제대로 하려면 잘 갖춰진 데이터센터와 전용 인프라 및 운영 인력을 확보해야 했다.

그러던 것이 빅 데이터, GPU 그리고 다양한 딥러닝 프레임워크의 등장과 딥러닝 관련 커뮤니티들이 성장하면서 판이 바뀌었다.

모든 직장과 가정 책상 위에 데스크톱 PC가 올라갈 것이라는 상상이 현실이 됐듯, 이제는 모든 데이터 과학자의 책상 위에서 복잡한 신경망을 적용한 추론이나 트레이닝을 수행하기 위해 개인용 AI 슈퍼컴퓨터를 사용하는 것이 현실로 다가오고 있다.

◆“현업 사용자 중심 컴퓨팅 환경”

책상 위 슈퍼컴퓨터 개념은 클라우드 컴퓨팅과 유사하다. 개발자는 개발에만 전념하고 인프라와 플랫폼은 클라우드에 맡기면 되는 식의 접근이 딥러닝 분야에도 똑같이 시도되고 있다.

그동안 데이터 과학자들은 ‘신경망 기반 추론’이나 ‘트레이닝’을 위해 여러 사람의 도움을 받아왔다.

다음 그림은 딥러닝 환경 구축을 위한 일반적인 절차의 한가지 예이다.

보면 알 수 있듯이 H/W 도입 및 설치 이외에도, 관련 소프트웨어 구축을 위해 IT 부서의 손길이 꽤 많이 가는 일들이다. <그림1 ‘딥러닝 인프라 구축을 위한 소프트웨어 설치 과정 예’ 참조>(출처: 엔비디아)

▲ 그림1 ‘딥러닝 인프라 구축을 위한 소프트웨어 설치 과정 예’(출처:엔비디아)

전통적인 딥러닝 인프라 구축 방식은 여러 사람의 도움도 필요하지만 시간도 많이 걸린다. 하드웨어 조달과 설정까지 몇 달이 흘러간다.

인프라가 준비돼도 여기에 딥러닝 관련 소프트웨어 운영 환경을 올려 문제가 없는지 테스트하는 데에도 시간이 꽤 걸린다.

GPU는 이런 관행을 ‘과거의 기억’으로 돌리고 있다. 상자에서 꺼내자마자 바로 쓸 수 있는 ‘딥러닝 전용 시스템’이란 개념이 등장한 것이다.

‘딥러닝 전용 시스템’은 단순히 하드웨어만 전달되는 것이 아니라 소프트웨어 스택도 사전에 최적화돼 포함되기 때문에 각종 설정과 호환성 검증 및 최적화 작업도 필요없다.

소프트웨어 개발자가 인프라 신경 쓸 필요없이 클라우드 PaaS 플랫폼상에서 코딩에 전념할 수 있듯이, 데이터 과학자는 GPU 기반 책상 위 슈퍼컴퓨터를 통해 어떤 작업을 돌려서, 어떤 결과를 얻을 것인지에 집중하면 된다.

◆“CPU 400개와 같은 성능을 워크스테이션 1대가 제공”

그렇다면, “GPU는 슈퍼컴퓨터란 거대한 대상을 데이터 과학자 손끝에 어떻게 가져올 수 있었을까”?

엔비디아에서 출시한 AI 전용, 개인용 슈퍼컴퓨터 ‘DGX 스테이션(Station)’을 예로 들자면, 일반적인 워크스테이션 크기의 이 시스템에는 4개의 ‘테슬라(Tesla) V100’이 장착되는데, 성능이 480 테라플롭스(TFLOPS, 초당 480조회 연산)가 나온다.

이는 400개의 CPU를 장착한 클러스터에 버금가는 수치다. 랙을 가득 채운 서버 클러스터가 내던 성능을 워크스테이션 1대가 처리하는 것이다.

시스템 대수가 차이가 나니 소비전력 역시 크다.

400개 CPU로 구성된 클러스터 대비 대략 1/20 정도 DGX Station의 소비전력이 낮다.

운용도 쉽다.

몇 주 걸리던 작업을 몇 시간 만에 처리해내는 성능을 생각할 때 시스템 및 하드웨어 사양은 거의 혁명적이다.

데스크톱 PC 정도 크기로 사무실 어느 곳에 놔도 잘 어울린다. 책상 위에 사용하는 만큼 소음도 적다.

전산실에 들어가면 서버들이 토해내는 팬 소리에 뒤가 따가울 정도이지만, ‘DGX 스테이션(Station)’은 수냉식 냉각을 통해 일반적인 워크스테이션의 1/10 수준으로 조용하다.

생산성도 높아진다.

‘볼타(Volta)’ 아키텍처가 제공하는 높은 성능에 PCIe로 연결한 GPU보다 데이터 입출력 속도가 5배 빠른 NVLink를 인터페이스로 채용한 결과 현존하는 가장 빠른 GPU 기반 워크스테이션보다 3배 이상 빠르다.

실제로 신경망 기반 트레이닝을 해보면 30% 이상 처리 속도가 빠른 것을 체감할 수 있다. <그림2 ‘DGX 스테이션의 주요 특징’ 참조>(출처: 엔비디아)

▲ 그림2 ‘DGX 스테이션의 주요 특징’(출처:엔비디아)

◆“여러 딥러닝 작업을 동시에 진행할 수 있는 나만의 AI 전용 슈퍼컴퓨팅 센터”

GPU 기반 워크스테이션은 소프트웨어 스택 측면에서 보면 클라우드와 더 닮았다.

‘DGX 스테이션’은 주요 딥러닝 프레임워크, 딥러닝 사용자 소프트웨어, 딥러닝 SDK, 써드파티 가속 솔루션 그리고 컨테이너 툴(Nvidia Docker), GPU 드라이버가, 호스트 운영체제가 탑재돼 있다.

수시간 정도만 투자하면 바로 실제 작업을 올릴 수 있을 만큼 사전 최적화가 잘돼있다. 데이터 과학자는 컨테이너 기술을 사용해 여러 딥러닝 작업에 각각 컨테이너를 할당해 동시에 돌릴 수 있다.

가령 한 컨테이너에는 텐서플로우를 다른 컨테이너에는 ‘Caffe2’를 올려 각각의 목적에 맞는 작업을 수행할 수 있다.

데이터 과학자 눈에는 나만의 슈퍼컴퓨팅 센터를 손쉽게 구축하여 사용할 수 있는 것이다. 물론 모든 것을 워크스테이션 상에서 처리할 수는 없다.

딥러닝 모델을 구현한 다음 더 큰 자원에서 돌려야 할 경우 회사 데이터센터에 구축한 DGX-1 서버 환경이나 엔비디아 GPU 클라우드에 배치해 처리할 수 있다.

즉 코드 수정없이 GPU 기반 워크스테이션과 서버 그리고 GPU 클라우드에 자유롭게 배치할 수 있다. <그림3 ‘컨테이너 기반으로 다양한 AI 환경을 동시에 운영’ 참조> (출처: 엔비디아)

▲ 그림3 ‘컨테이너 기반으로 다양한 AI 환경을 동시에 운영’(출처:엔비디아)

◆효율성과 생산성 모두 만족

지금까지 딥러닝 작업은 그저 시간과 노력이 많이 드는 그런 일로 여겨졌다. 하지만 GPU의 발전에 따라 이제 데이터 과학 관련 작업을 더 효율적이고, 생산적으로 할 수 있는 길이 열렸다.

여기에 과감한 전망을 하나 더 해보자면, 책상 위 슈퍼컴퓨터 시대를 연 GPU는 누구나 인공지능(AI)을 활용해 일상을 바꾸는 미래를 열어갈 것이다.

현재 주요 스마트폰 기업의 로드맵에 AI 전용 칩 적용이 있는 것을 볼 때 70~80년대 데스크톱 PC가 모든 직장과 가정에서 쓰일 것이란 주장보다 더 설득력 있는 전망일 것이다.

<유클릭 김광정 상무>kj.kim@uclick.co.kr