이글루코퍼레이션(대표 이득춘 www.igloo.co.kr)은 14일 발표를 통해, AI가 판단한 공격 결과에 대한 신뢰성과 이해도를 높이는 ‘이글루 XAI(IGLOOXAI)’(가칭) 서비스를 개발 완료했다고 밝혔다.

AI 모델 확대 적용 및 개선 과정을 거쳐, 4월초 시범 서비스를 오픈할 예정이다.

‘이글루XAI’는 특정 보안 데이터에 대해 AI 모델이 판단한 근거를 알려주는 온라인 서비스다.

주로 ▲AI가 어떤 기준에 따라 특정 행위를 이상•정상으로 탐지했는지를 알려주는 ‘설명 가능한 AI(XAI, eXplainable AI)’ 기술과 ▲기존 콘텐츠에 대한 학습을 토대로 새로운 콘텐츠를 만들어내는 ‘생성형 AI(Generative AI)’ 기술이 적용돼 있다.

▲ 이글루XAI(가칭) 사용 예시(설명 가능한 AI).(출처 : 이글루코퍼레이션 제공)

▲ 이글루XAI(가칭) 사용 예시 (생성형 AI).(출처 : 이글루코퍼레이션 제공)

사용자들은 AI 모델이 특정한 예측을 내린 기준 확인을 통해 AI 답변의 신뢰도를 평가하고, 자연어 형태의 설명을 토대로 AI 답변에 대한 이해도를 높일 수 있다.

보안 담당자들은 ‘이글루XAI’ 활용을 통해 AI 탐지 모델의 판단 근거와 빅데이터 분석 결과, 자연어 형태의 답변을 비교 확인, 보안 조직의 분석 역량을 상향평준화할 수 있게 된다.

사용자가 공격 유무를 판단하고자 하는 페이로드(payload)를 입력하면 ▲AI 탐지 모델이 예측한 결과와 이 예측에 영향을 미친 공격 특징(feature)의 중요도 ▲빅데이터 기반 분석 결과가 제공된다.

챗GPT(ChatGPT)를 통한 대화형 분석 옵션도 선택 가능하다.

이글루코퍼레이션은 더 많은 보안 조직이 이글루XAI를 활용할 수 있도록, 서비스 모델을 다양화할 계획이다.

설치 및 개발 부담이 없는 온라인 웹페이지•응용프로그램인터페이스(API) 형태로 서비스를 제공하고, 현재 적용된 보안 이벤트 분류 모델에 이어 엔드포인트 및 행위 기반 모델을 추가할 예정이다.

또한, 예측 결과에 대한 보안 전문가의 피드백 적용을 통해, 모델의 신뢰도를 지속적으로 높일 방침이다.

이글루코퍼레이션은 지난 2015년경부터 AI 기술 확보에 힘을 실어왔다.

2019년 AI 보안관제 솔루션을 출시하고 주요 기관과 기업에 공급하며, AI 시스템 개발 및 구축 역량을 축적했다.

‘XAI’ 등을 포함한 20건 이상의 AI 특허 획득 및 사이버보안 AI 데이터셋 구축을 통해, 데이터 중심의 AI 역량 확보에도 공을 들였다.

양질의 학습 데이터 선별 및 공격 특징 추출, 학습 방향을 정하는 레이블링 작업 등을 통해, AI 보안의 정확성과 신뢰성을 높이는 데 집중한 것.

이글루코퍼레이션은 이번 서비스 출시를 계기로 기존 확보한 AI 기반 탐지 기술 및 XAI 기술에 생성형 AI 기능을 접목하며, AI 사업 포트폴리오를 확대할 계획이다.

챗GPT 모델에서 더 나아가 복수의 생성형 AI 모델 연계를 통해 고객의 선택 폭을 넓히고, 중장기적인 관점에서 보안에 최적화된 이글루코퍼레이션 고유의 생성형 AI 모델도 적용할 전략이다. 

더불어, 정상적인 AI 서비스를 악용한 우회 및 적대적 공격에 맞서, 현재 진행 중인 AI 방어 기술 및 방법론 연구에 가속도를 붙인다.

이득춘 이글루코퍼레이션 대표는 “이글루코퍼레이션은 다년간 보안, 빅데이터, 데이터 마이닝, AI 등 여러 분야의 전문가로 구성된 AI 조직을 운영하며, AI 탐지 모델의 신뢰성과 정확성을 높이는 데 공을 들여왔다. 검증된 고유의 AI 기술력에 생성형 AI 기술을 적용하며, 더 많은 조직들이 AI의 혜택을 누릴 수 있도록 지원하겠다”라고 밝혔다. 

<김동기 기자>kdk@bikorea.net