뉴욕에 본사를 둔 테크 기업 클리어뷰AI(Clearview AI)는 페이스북, 인스타그램, 트위터를 비롯한 여러 웹사이트에서 인물 사진을 마구 수집하고, 안면 인식 기술을 적용해 경찰을 비롯한 일부 기관에 감시 기술을 제공하면서 논란을 일으켰다. 그러나 클리어뷰AI가 논란 이후에도 안면 인식 기술 개발을 중단하지 않은 것으로 확인됐다.
글로벌 월간지 와이어드는 클리어뷰AI의 공동창립자이자 CEO인 호안 톤 탓(Hoan Ton-That)이 안면 인식 능력 발전을 기반으로 클리어뷰AI의 감시 기술의 성능 강화를 원한다는 사실을 보도했다.
감시·프라이버시 침해 논란 낳은 클리어뷰AI 기술
톤 탓은 와이어드와의 인터뷰에서 "클리어뷰AI는 그동안 안면 인식 기술을 더 강화하고자 웹 상에서 인물 사진 100억 장을 수집했다"라며, "안면 인식 기술 훈련에 활용하는 인물 사진이 더 많을수록 법률 집행기관에서 중요한 사건을 처리하기 위한 핵심 인물을 더 빨리 찾는 데 도움이 된다. 이전보다 안면 인식 정확도가 향상됐기 때문"이라고 주장했다.
클리어뷰는 인물 사진 수집을 위해 웹 크롤링 기법과 안면 인식 능력을 개선한 첨단 머신러닝을 함께 이용했다. 이 과정에서 개인 프라이버시를 침해하면서까지 강력한 감시 툴을 개발했다는 비판을 받았다.
당연히 대중의 비난 여론을 직면하게 됐다. 또, 인물 사진 수집 과정이 정확히 알려지면서 스마트폰과 SNS, AI가 보급된 시대의 프라이버시 기대 수준을 둘러싼 광범위한 논란도 펼쳐졌다. 미국 시민 자유 동맹(ACLU)은 프라이버시 침해 문제를 강조하며, 일리노이즈주에서 클리어뷰AI를 제소하기도 했다.
그러나 톤 탓은 대중의 비난과 소송 이후에도 안면 인식 기술 개발을 중단하지 않았다. 안면 인식 기술이 범죄 해결의 최선책이라고 확신하기 때문이다. 이에, 클리어뷰는 흐릿하게 가려진 인물 사진을 선명하게 구현하는 '블러 해제(deblur) 툴', 마스크로 가려진 얼굴을 정확하게 식별하는 '마스크 제거 툴' 등 안면 인식 기술 능력을 강화한 툴을 추가로 개발했다.
클리어뷰AI의 강화된 안면 인식 기술, 전문가의 설명은?
물론, 블러 해제 툴과 마스크 제거 툴도 또 한 차례 논란이 되었다. 와이어드는 클리어뷰AI가 새로 선보인 툴 모두 안면 인식 정확도와 사진 속 인물 식별 방법 모두 불확실하지 않다는 점을 지적했다.
또, 많은 전문가가 안면 인식 기술의 고질적인 문제인 편견 문제 악화 가능성을 강조했다.
머신러닝 전문가로 유명한 MIT의 알렉산더 마드리(ALEKSANDER MADRY) 교수는 "클리어뷰AI의 블러 해제 툴과 마스크 제거 툴 모두 안면 인식 정확도가 매우 낮을 것으로 보인다. 또, 개발 과정에서 데이터 세트 설정과 훈련 과정 관리 모두 신중하게 이루어지지 않았을 확률도 높다"라며, 인물 정보를 잘못 식별할 문제를 우려했다.
이어, 마드리 교수는 클리어뷰AI가 새로이 선보인 기술 모두 안면 인식 정확도가 높더라도 프라이버시 침해 측면에서 문제를 일으킬 것이라고 덧붙였다.
미국 매체 버즈피드 뉴스는 해외 경찰 기관과 월마트 등 일부 민간 기업, 뉴욕 경찰국을 포함한 미국 내 일부 경찰국 등이 클리어뷰AI의 신규 안면 인식 소프트웨어를 시범 사용하기 시작한 사실을 전했다. 또, 경찰국이 확보한 클리어뷰AI의 라이선스에는 "법률 집행 기관은 필요한 상황이라고 판단했을 때, 신원을 알 수 없는 범죄 용의자 확인을 위해 안면 인식 소프트웨어를 사용해도 무방하다"라는 조건이 명시돼, 추후 편견과 프라이버시 침해 문제가 더 심각해질 수도 있다.
하버드대학교 버크만 인터넷·사회 센터의 조너선 지트레인(Jonathan Zittrain) 소장은 클리어뷰AI가 처음부터 안면 인식 툴 개발을 위해 페이스북과 인스타그램 등 다수 SNS 서비스에서 인물 사진을 무더기로 수집한 사실에 주목하며, "페이스북과 같은 SNS 기업이 사용자를 더 강력하게 보호해, 사진 무단 수집 문제를 방지해야 한다"라고 목소리를 높였다.
이어, 지트레인 소장은 페이스북 등 SNS 기업이 스팸과 악성코드 등을 막는 데 활용하는 적대적 기계 학습을 기반으로 인간의 눈으로 식별할 수 없는 수준으로 미세하게 사용자 사진을 변경해, 사용자 사진 수집 문제를 예방할 수 있다고 설명했다.
한편, 페이스북 대변인인 제이슨 그로스(Jason Grosse)는 "클리어뷰AI의 행위는 엄연한 프라이버시 침해 행위이다. 따라서 페이스북은 클리어뷰AI 창립자의 플랫폼 및 서비스 접속을 차단했다. 그리고, 페이스북 데이터와 사진, 영상 접근을 중단할 것을 법적으로 요청했다"라고 밝혔다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]
