CWN(CHANGE WITH NEWS) - 데이팅 앱 범블, 동의 없는 누드 사진 전송 차단 툴 ′프라이빗 디텍터′ 오픈소스로 공개

디지털 성폭력 유형 중 하나로 ‘사이버플래싱(Cyberflashing)’ 피해 사례가 등장했다. 사이버플래싱은 당사자의 동의 없이 스마트폰으로 나체 사진을 전송하는 행위이다. 날이 갈수록 사이버플래싱의 심각성이 커지자 데이팅 앱 범블(Bumble)이 문제를 퇴치하기 위한 노력에 나섰다.

미국 테크 매체 매셔블에 따르면, 범블이 사용자에게 사이버플래싱을 경고하고자 인공지능(AI) 툴인 ‘프라이빗 디텍터(Private Detector)’를 오픈소스로 공개했다.

프라이빗 디텍터는 기기에 포르노 사진이 전송될 때 AI가 이를 감지하도록 한다. 사진은 자동으로 블러 처리가 되며, 사용자에게 사진 보기나 삭제, 사진 신고 기능을 선택하도록 한다.

영국 정부는 지난 3월, 12~18세 소녀 76%가 성인이나 또래 남학생이 보낸 포르노 사진이나 나체 사진을 받은 적이 있다는 조사 결과를 발표했다. 범블도 자체 연구를 통해 18~24세 사용자 50%가 상호 동의 없는 성적 사진을 받은 적이 있다는 사실을 확인했다. 또, 잉글랜드와 웨일스에 거주하는 44세 이하 시민 95%가 사이버플래싱 퇴치에 강화해야 한다고 주장한다는 점에 주목했다.

결국, 범블은 사용자 보호 수준을 확대하고자 2019년 처음 출시한 프라이빗 디텍터를 오픈소스로 공개하였다. 범블은 다른 테크 기업도 활용할 수 있도록 프라이빗 디텍터의 소스코드를 깃허브에 공개했다.

레이첼 하스(Rachel Haas) 범블 안전 부사장은 “누구나 건전하면서 평등한 관계와 존중에 따른 상호작용, 온라인 관계 형성 경험을 접할 자격이 있다는 사실을 확신하고자 프라이빗 디텍터를 오픈소스로 공개했다”라고 말했다.

한편, 범블 이외에도 다른 데이팅 앱도 포르노 사진을 동원한 디지털 성범죄에 자체적으로 대응하고 있다. 일례로, 오케이큐피드(OKCupid)는 2017년부터 희롱 방지를 약속하며, 노골적인 누드 사진을 게재할 수 없도록 앱을 관리한다고 공식 발표했다.

또, 인스타그램은 한 달 전, 사이버플래싱 퇴치를 위해 ‘누디티 프로텍션(Nudity protection)’ 기능을 개발 중이라고 밝혔다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]