브래드 스미스(Brad Smith) 마이크로소프트(이하 MS) 사장이 6일(현지시각) 미국 워싱턴 D.C. 소재 ‘브루킹스 연구소(Brookings Institution)’에서 정부의 안면 기술 규제에 대한 연설을 펼쳤다.

이는 지난 7월, 미국 정부에 안면 인식 기술에 대한 정부 규제 및 조치 마련을 촉구한 것의 일환으로 MS는 다시 한번 정부의 법률 규제의 필요성과 함께 관련 업계의 동참을 제시했다.

지난 발표 이후 MS는 학계 및 업계, 다양한 관계자들과 논의를 해왔으며, 잠재적 문제에 대한 보호장치 없이 기술 발전만 추진한다면 기술의 남용을 통제할 시기를 놓칠 수 있기에 이제 연구와 토론을 넘어 행동을 취해야 할 때라고 강조했다.

‘안면 인식 기술’은 다양한 비즈니스 기회 및 사회적 이익을 창출하는 중요한 차세대 IT 기술이다.

이미 세계 곳곳에서는 안면 인식 기술을 활용해 사회 문제 해결부터 비즈니스 운영 개선까지 다양한 분야에 적용되고 있다.

일례로 인도 뉴델리의 경찰은 최근 안면 인식 기술을 활용, 4일간 실종된 3000여명의 어린이의 신원을 파악한 바 있으며, 미국의 역사학자들은 1860 년대 남북 전쟁 당시 촬영된 사진 속 인물들의 신원을 확인할 수 있었다.

의학계에서는 안면 인식 소프트웨어를 통해 아프리카인, 아시아인 및 라틴 아메리카인의 희귀 유전 질환을 성공적으로 진단했으며, 호주 국립 은행(National Australia Bank)은 안면 인식으로도 사용가능한 현금 자동 입출금기를 도입한 바 있다.

MS는 이같은 기회와 동시에, 잠재적 사용 위험에 대한 경각심을 갖고 안면 인식 기술 개발의 방향성에 대해 지속적으로 확인할 필요가 있다고 언급했다.

특히 정부가 노력해야 할 문제를 사회적 편견 조장, 프라이버시 침해, 민주주의의 자유 및 인권 침해 3가지로 꼽으며 이러한 문제는 법률을 통해 해결되어야 한다고 말했다.

◆“사회적 편견 및 차별 조장 방지” = 현재 안면 인식 기술 특히 여성과 유색인종에 대한 높은 오류율을 보이고 있어 특정 용도로 사용될 경우 편향된 의사 결정에 따른 사회적 차별을 조장하게 될 가능성이 높다.

MS는 편견과 차별 방지를 위해 기술의 역할과 한계에 대한 문서화 해 투명성을 보장하고, 공인된 기관을 통한 객관적인 검증 및 비교로 기술의 정확성과 공정성 입증하자고 제시했다.

더불어, 새로운 법안은 신체적 또는 정신적 위험, 사생활이나 인권, 자유에 영향을 끼칠 수 있는 법률에 대한 최종 결정을 내리기 전에 의미 있는 인간적 검토(meaningful human review)가 필요하다고 강조했다.

◆“프라이버시 보호” = 안면 인식 기술이 널리 보급되면 새로운 방법으로 사람들의 프라이버시를 침해하게 될 수도 있다.

예를 들어, 공공시설 또는 장소에 설치한 카메라를 클라우드와 연결해 실시간으로 사람들을 감시할 수 있기 때문이다.

쇼핑을 하기 위해 손님이 백화점에 들어섰다고 가정해보자. 들어서는 순간 카메라가 단순히 촬영을 할 뿐 아니라 컴퓨터를 통해 누구인지 인식하게 된다.

백화점에서 매장을 방문하거나, 물건을 구입할 때 역시 카메라가 계속 추적할 것이다.

이 정보를 백화점에서 모든 매장과 공유하게 된다면, 다음에 그 손님이 방문할 때 어느 매장을 방문해서 어떤 물건을 구입하게 될지 예상할 수 있게 된다.

MS는 백화점과 같은 상업 시설이 이 기술을 사용하면 안 된다고 하는 것이 아니다.

오히려 이같은 디지털 기술을 이용해 고객에게 더 나은 서비스를 제공할 수 있도록 많은 기업들과 협력하고 있다.

하지만 고객은 이같은 기술이 언제 어디서 사용되고 있는지 알아야 하고, 선택권을 가질 수 있어야 한다.

기업은 고객에게 안면 인식 기술이 사용되고 있음을 항상 공지하고, 기술 사용에 대한 동의를 구해 고객들의 프라이버시를 보호해야 하는 책임을 다해야 한다.

◆“민주주의의 자유 수호 및 인권 보호” = 민주주의는 사람들이 자유롭게 모여서 토론하고 의사를 표현할 수 있는 권리를 보장하지만, 정부의 안면 인식 기술 사용이 자유와 인권을 침해할 가능성도 배제할 수는 없다.

정부가 안면 인식 기술을 치안 유지와 같은 다양한 공공 서비스에 활용하는 경우가 많다.

하지만 만약 수많은 카메라, 대량의 컴퓨터 연산 그리고 클라우드를 무분별하게 활용한다면 정부는 안면 인식 기술을 통해 특정 인물 뿐 아니라, 대중을 지속해서 감시하는 용도로 사용할 수도 있다.

유례 없는 일이지만, 가능성이 없는 것도 아니다.

조지 오웰의 소설 ‘1984’에서 인간을 통제하는 정부의 그림이 그려질 수 있는 것.

이를 방지하기 위해서는 특정 인물에 대한 정부의 지속적인 감시를 제한해야 한다.

즉, 사법 집행 기관이 법원 명령을 받았을 경우에 한해 공공 장소에서 감시할 수 있게 허용하며, 긴급 상황이거나 사망 또는 심각한 신체적 상해 위험이 있을 경우에만 감시가 가능하도록 해야 한다.

안면 인식 기술 도입의 초기 단계인 만큼, MS가 모든 문제에 대한 해결 방안을 제시할 수는 없다.

하지만 기본적인 원칙을 수립하고 잠재적인 문제에 대한 대응안을 선제적으로 제시하면서, 기술의 개발 및 사용에 기여할 계획이다.

안면 인식 기술을 통해 얻은 노하우와 경험을 토대로 고객이 필요로 하는 정보를 제공, 고객들이 안면 인식 기술 도입 시 다양한 이해관계자와 공공으로부터 신뢰를 얻을 수 있도록 지속적으로 지원할 것이라고 밝혔다.

MS는 아울러 신중한 기술 개발 및 활용을 도모하기 위한 6가지 안면 인식 기술 개발 및 사용 원칙을 발표했다.

▲개발과 적용에 있어 모든 인간을 공평하게 대하는 공정성 유지(Fairness) ▲기술의 사용 및 제한에 대한 문서화와 투명성 확보(Transparency) ▲인간에게 영향을 미칠 수 있는 사용에 대한 적절한 수준의 인류적 통제를 보장하도록 장려하고 지원하는 책임감(Accountability) ▲불법적인 차별을 목적으로 한 기술 사용을 금지하는 비차별원칙(Nondiscrimination) ▲기술을 사용하는 민간 기업이 고객에게 기술 사용 통지 및 동의를 구하도록 장려(Notice and consent) ▲국민의 민주적 자유를 위한 안전장치 마련 및 자유를 위험에 빠뜨릴 수 있는 경우에 대한 기술 사용 제한(Lawful surveillance) 등이다.

자세한 사항은 MS 공식 블로그(https://blogs.microsoft.com/on-the-issues/2018/12/06/facial-recognition-its-time-for-action/)에서 확인할 수 있다.

<김동기 기자>kdk@bikorea.net