2024년은 사이버 보안 분야에서 생성형 AI 도입의 해가 될 것으로 예측됐으며, 이를 발판으로 오는 2025년 조사대상 절반 이상 기업이 2025년까지 인공지능(AI) 솔루션 도입에 나설 것이라는 전망이 나왔다.

9일 세계적인 기관 CSA(Cloud Security Alliance)와 구글 클라우드의 설문조사에 따르면 조사 대상 조직의 55%가 향후 1년 이내에 생성형 AI 솔루션을 도입할 계획이라고 대답해 생성형 AI 통합이 크게 증가할 것으로 전망된다.

▲ (출처 : 구글클라우드 제공)

‘AI 와 보안의 현황 조사’ 보고서에 따르면, 조직이 빠르게 AI 도입을 추진하는 배경에는 현대 비즈니스 환경에서 AI가 제공하는 경쟁 우위를 인식하고 있는 최고 경영진이 크게 기여하고 있었다.

실제로 응답자의 82%가 경영진의 리더십이 AI 도입의 추진 이유라고 답했다.

또한, 응답자의 67%가 보안 목적으로 AI를 테스트해 본 적이 있다고 답하는 등 사이버 보안에 AI를 통합하는 것이 단순히 구상에서 그치는 게 아니라 많은 조직에서 현실화되고 있는 것으로 나타났다.

AI 활용 능력과 관련한 질문에는 조사에 응한 전문가의 약 절반이(48%) 자신의 조직이 AI 활용 보안 전략을 실행할 수 있는 능력을 가지고 있다고 자신감을 드러냈으며, 그중 28%는 ‘(능력을 보유하고 있다고) 어느 정도 확신한다’, 20%는 ‘매우 확신한다’고 대답했다.

이 분야의 생성형 AI 도입이 초기 단계라는 점을 고려할 때, 이는 전문가들이 조직의 준비 상태에 대해 낙관적이거나 AI 통합의 복잡성을 간과하고 있음을 시사한다.

필 베나블스(Phil Venables) 구글 클라우드 CISO는 “AI 사용은 단순히 점진적인 발전이 아니라 사이버 보안 업계에 근본적인 변화를 가져올 수 매우 드문 혁신의 기회다. 생성형 AI를 사용하는 조직은 방어 역량을 10배 이상 강화해 전세를 뒤집을 수 있는 잠재력을 가질 수 있다”며 “공격자의 AI 사용에 대응해야 하는 것은 맞지만, 이보다 더 중요한 것은 사이버 방어와 AI의 통합이다. 본 보고서의 조사 결과는 구글의 ‘보안 AI 프레임워크 (Secure AI Framework; SAIF)’와도 부합한다”고 설명했다.

이번 보고서의 주 저자(lead author)이자 CSA 연구 수석 기술 책임자 힐러리 바론(Hillary Baron)은 “이번 보고서는 업계 전문가가 사이버 보안에서 진화하는 AI의 역할을 바라보는 관점 및 이를 대비하는 자세와 관련한 인사이트를 공유한다. 이런 인사이트는 전환을 모색하고, 탄력적이며 미래 지향적인 디지털 인프라를 보장하는 데 핵심 역할을 한다”고 설명했다.

칼렙 시마(Caleb Sima) CSA AI 안전 이니셔티브 의장은 “AI는 사이버 보안을 변화시키며 새로운 기회와 복잡한 과제를 동시에 제공하고 있다”며 “하지만 AI를 성공적으로 이해하고 도입하는 데 있어 최고경영진과 직원 간의 소통 단절은 전략적이고 통합된 접근 방식의 필요성을 강조한다”고 말했다.

‘AI 와 보안의 현황 조사’ 보고서의 주요 내용을 보면

◆AI에 대한 보안 전문가들의 낙관적인 전망 = 63%의 응답자는 AI가 보안 조치를 강화할 수 있는 잠재력을 가지고 있으며, 특히 위협 탐지 및 대응 능력을 향상시킬 수 있을 것으로 기대한다고 답했다.

반면, 응답한 보안 전문가의 25%는 ‘AI의 도입이 공격자에게 더 유리할 수 있다’고 우려를 표명했다.

‘AI가 보안팀에 더 유리하다’는 응답자는 34%였으며 ‘방어자와 공격자 모두에게 똑같이 유리하다’고 답한 비율은 31%였다.

◆보안 전문가의 대체가 아닌 역량을 강화하는 AI = 조사에 응한 보안 전문가 중 4분의 1이 채 되지 않는 응답자(12%)만이 ‘AI가 보안 전문가의 역할을 완전히 대체할 것’이라고 답했다.

다수의 응답자는 AI가 자신의 기술을 향상시키거나(30%), 일반적으로 자신의 역할을 지원하고(28%), 역할의 상당 부분을 대체해(24%) 다른 업무에 더 많은 시간을 쓸 수 있게 해줄 것이라고 응답했다.

◆AI에 대한 경영진과 직원의 견해 차이 = ‘AI 기술이 매우 친숙하다’고 답한 비율은 최고경영진이 실무 직원보다 높은 것으로 나타났다.

더 나아가, 절반 이상의 최고경영진인 응답자(51%)가 ‘잠재적인 AI 사용 사례에 대해 매우 명확하게 이해하고 있다’고 답한 반면, 동일하게 답한 직원의 비율은 14%에 그쳤다.

◆2024년은 AI 도입의 해 = 응답한 조직의 절반 이상에 해당하는 55%가 생성형 AI를 활용한 보안 솔루션과 툴을 도입할 계획이 있는 것으로 확인됐다.

▲ (출처 : 구글클라우드 제공)

이들은 관련 기술의 유스케이스를 다양하게 탐색해 보고 있는 것으로 나타났는데, 가장 많이 시도해 본 사례는 규칙 생성(21%), 공격 시뮬레이션(19%), 컴플라이언스 위반 탐지(19%) 순이었다.

한편, 구글 클라우드는 AI에 대한 업계의 지식, 태도, 의견을 보다 잘 이해하기 위해 CSA에 설문조사 및 보고서 개발을 의뢰했으며, 프로젝트 자금을 지원하고 CSA 리서치 애널리스트와 설문지를 공동 개발했다.

설문조사는 2023년 11월 아메리카 대륙, 아시아태평양, 유럽중동 지역 내 다양한 규모의 조직의 IT 및 보안 전문가 2486명을 대상으로 온라인으로 실시됐다.

보고서의 데이터 분석은 CSA의 리서치 분석가들이 진행했다.

구글 클라우드의 ‘AI 및 보안 현황 조사 보고서’ 전체 내용은 CSA 홈페이지에서 확인 가능하다.

<김동기 기자>kdk@bikorea.net