IBM이 인공지능(AI) 개발자들의 가장 큰 고민으로 꼽히는 ‘편향성(Bias)’ 문제의 해결에 나섰다.

한국IBM은 18일 ‘신뢰할 수 있고 투명한 인공지능(Trust and Transparency for AI)’를 주제로 가진 미디어데이에서 ‘AI 오픈스케일(AI OpenScale)’을 소개했다.

◆“AI 블랙박스의 불확실성 제거해 기업의 AI 도입 촉진” = IBM이 지난 10월 15일 전세계적으로 발표한 AI 오픈스케일은 학습 데이터의 제약으로 인해 발생할 수 밖에 없는 AI의 편향성을 고객이 직접 검증할 수 있도록 하는 개방형 기술 플랫폼이다.

한국IBM 왓슨 기술 영업팀 최안나 실장은 “이미 다수의 기업이 AI를 도입했지만 AI의 신뢰성과 투명성이 미흡하다는 이유로 제한적인 업무에만 적용하고 있다. 대부분 파일럿 수준에 머물러 있는 셈이다”라면서 “AI를 업무에 적용할 때 가장 큰 벽은 과연 믿을 수 있는지라는 확신감이 없다는 점이다. 한마디로 AI가 갖고 있는 블랙박스의 불확실성을 제거해 기업의 AI의 도입을 촉진하겠다는 것이 이번에 AI 오픈스케일을 공개한 이유이다”라고 밝혔다.

<표 1> 기업의 인공지능 도입 저해 요소와 IBM 오픈스케일 타깃 시장

AI 오픈 스케일의 핵심 기능은 편향성의 탐지와 완화(Bias detection and mitigation), 문제의 원인을 설명할 수 있는 능력(Explainability), 추적할 수 있는 능력(Traceability) 등 크게 3가지이며, 신뢰성, 스킬, 라이프사이클 관리 등 3가지 접근방식으로 이러한 기능을 구현하고 있다.

신뢰성 부문은 편향성의 근거를 찾는 것에 초점을 맞추고 있으며, 스킬 부문은 데이터마트를 만들고 평가 메트릭스를 통해 AI 모델을 지속적으로 모니터링하는 역할을 수행한다. 강력하면서도 자동화된 편향 제거 기술에 기반해 AI 애플리케이션을 지속적으로 모니터링하고 편향성을 탐지 및 해결한다.

그리고 라이프사이클 관리 부문은 데이터 사이언티스트, 애플리케이션 개발자, 현업 비즈니스 담당자, IT 운영 인력 등 4개 조직이 하나의 공간에서 모든 AI를 함께 운용하고 관리하도록 지원한다.

<표 2> IBM 오픈스케일 활용사례

출처: IBM

AI 오픈스케일은 곧 AI 인사이트 도출 과정을 이해하기 쉬운 용어로 설명하며, 강력하면서도 자동화된 편향 제거 기술에 기반해 AI 애플리케이션을 지속적으로 모니터링하고 편향성을 탐지 및 해결한다.

또 기업이 GDPR 등의 법률과 규정을 준수할 수 있도록 모든 예측과 모델, 트레이닝 데이터 및 메트릭스에 관한 기록 모두를 보전한다.

◆‘뉴넷S’ AI 오픈스케일에 포함, 올해말 정식 런칭 = 한편 IBM은 AI 설계에 사용되는 복잡한 심층신경망을 자동으로 구축하는 ‘뉴넷S(NeuNetS: Neural Network Synthesis)’를 AI 오픈스케일 안에 담기로 했다.

‘뉴넷S’는 AI 개발을 자동화하는 핵심 기술로, 데이터 전문가가 아닌 일반 사용자도 데이터만 있으면 AI 모델을 짧은 시간에 쉽게 만들 수 있도록 해준다.

기업은 IBM의 뉴넷S를 이용해 기초부터 신속하게 자동으로 신경망을 구축할 수 있다.

AI 오픈스케일은 텐서플로우(Tensorflow), 사이킷런(Scikitlearn), 케라스(Keras), 스파크ML(SparkML) 등의 오픈소스 머신러닝 혹은 딥러닝 모델과 병용이 가능하다.

또, IBM 왓슨, IBM 파워AI, 셀던(Seldon), AWS 세이지메이터(AWS SageMaker), 애저ML(AzureML) 및 비IBM 엔진에서 트레이닝과 호스팅이 진행되는 애플리케이션과 모델을 처리할 수 있다.

AI 오픈스케일은 올해 말 IBM 클라우드를 통해 정식 선보일 예정이다.

<박시현 기자> pcsw@bikorea.net