올해 초, 디트로이트주 경찰이 2년 전 발생한 범죄 용의자로 무고한 흑인 남성을 체포하는 일이 발생했다. 그러나 이와 같은 일이 과거에도 여러 차례 발생했다. 경찰이 사용하는 인공지능 기반 안면인식 기술이 범죄자와 다른 유색인종 시민들의 얼굴을 제대로 구분하지 못했기 때문이다. 그렇다면, 안면인식 기술로 유색인종의 얼굴을 제대로 식별하지 못하는 이유는 무엇인가?
그동안 안면인식 기술은 백인 남성들의 얼굴을 중심적으로 사람을 식별할 수 있도록 훈련되어 왔다. 이 때문에 백인 남성의 얼굴은 정확히 구분해낸다.
그러나 과거에 발표된 여러 논문에서 지적한 바와 같이 안면인식 기술의 유색인종 얼굴 식별 능력이 현저히 낮다. 이는 유색인종의 얼굴을 식별해내는 훈련이 부족했던 탓이다.
게다가 안면인식 기술 자체가 사람의 피부색을 기반으로 범죄 용의자들을 찾아내도록 설계된 점도 문제의 원인이다. 그동안 안면인식 개발자들이나 기업들이 안면인식 기술 훈련 과정에서 자동화된 위험 프로파일링 시스템을 이용했기 때문이다. 해당 시스템은 유색인종을 무조건 불법 이민자로 분류됐다.
실제로 안면인식 기술과 인공지능(AI)의 인종 차별 논란은 이전부터 이어져왔다. 올해 4월, 구글은 구글 비전AI이 인종차별 논란에 휩싸이자 공식 사과를 한 바 있다. 당시 구글 비전 AI는 밝은 피부를 가진 사람이 체온계를 들고 있는 사진에 체온계라고 올바르게 라벨링을 했다. 그러나 어두운 피부색을 가진 사람이 체온계를 들고 있는 것에 대해 총으로 라벨링을 해, 인종차별 논란이 발생했다.
이와 관련, 사회운동가들과 전문가들은 기술이 인종차별적이며, 향후 차별 행위에 악용될 소지가 있다며 우려를 표하기도 했다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]
