그동안 딥페이크는 가짜뉴스 확산과 특정 인물 명예훼손 및 성범죄 문제 등을 일으키며 심각한 문제가 되었다. 이에, 세계 여러 국가와 전문가가 딥페이크와의 전쟁을 선포하는 상황에 이르렀다. 그러나 일각에서는 앞으로 딥페이크가 일으키는 문제를 완화할 수 있을 것으로 기대한다.
딥페이크 콘텐츠 출처, 소프트웨어 프로그램 하나로 찾아낸다
6월 16일(현지 시각), 미국 방송사 CBNC 보도에 따르면, 페이스북 소속 인공지능{AI) 연구팀과 미시간주립대학교 AI 전문가로 구성된 합동 연구팀이 딥페이크의 출처를 찾아낼 수 있는 소프트웨어 개발에 성공했다.
이번 연구를 이끈 페이스북 연구원인 탈 하스너(Tal Hassner) 박사는 CNBC와의 인터뷰에서 "AI 소프트웨어를 훈련한 뒤, 사진을 보고 이를 제작한 AI 모델의 정확도를 알아낼 수 있다"라고 말했다.
연구팀의 이번 연구는 지난해, 미시간주립대학교 연구팀이 특정 사진을 촬영하기 위해 사용된 카메라 모델을 확인할 수 있다는 사실을 입증한 뒤에 이어졌다. 이후, 이를 기반으로 합동 연구팀의 딥페이크 출처 확인 연구가 시작됐다.
페이스북, 딥페이크 출처 찾기에 나선 이유는?
그동안 딥페이크는 가짜 콘텐츠를 중심으로 거짓 정보를 유포했다. 특히, 페이스북과 메신저, 인스타그램, 왓츠앱 등 여러 SNS 플랫폼을 기반으로 딥페이크로 생성된 가짜 콘텐츠가 걷잡을 수 없을 정도로 유포되었다.
게다가 누구나 딥페이크 툴로 가짜 콘텐츠를 생성하고 유포할 수 있어, 거짓 정보 및 음란물 유포 등 악의적인 목적을 지닌 딥페이크 콘텐츠가 우후죽순으로 등장했다.
특히, 날이 갈수록 딥페이크 영상이 더 정교해지자 원본 콘텐츠와 딥페이크 콘텐츠를 구분할 수 없는 수준에 이르렀다. 이 때문에 많은 대중이 특정 정보의 진위를 판단하는 데 몹시 혼란스러워하는 모습을 보였다.
이에, 페이스북은 지난해 1월부터 딥페이크 콘텐츠를 금지하는 등 딥페이크와의 전쟁을 선포했다. 하지만, 페이스북의 딥페이크 퇴치 노력에도 불구하고 딥페이크 콘텐츠 확산 문제는 나아질 기미가 보이지 않았다.
하스너 박사는 딥페이크 감지 및 삭제 활동이 '쫓고 쫓기는 게임'과 같다고 말하며, 이번에 개발한 AI 소프트웨어가 딥페이크 퇴치에 도움이 될 것이라고 설명했다.
연구팀의 AI 소프트웨어, 외부 전문가의 반응은?
미국 바이든 행정부와 프랑스 에마뉘엘 마크롱 행정부에 딥페이크 문제 자문을 한 딥페이크 전문가인 니나 식(Nina Schick) 박사는 6월 14일(현지 시각), AI 기술 콘퍼런스인 코그X AI(CogX AI)에 참석해, 딥페이크를 감지하는 것이 쉽지 않다고 한탄했다.
그러나 식 박사는 연구팀의 딥페이크 감지 AI 소프트웨어 발표 소식을 듣고 "딥페이크 콘텐츠 감지 측면에서 큰 진전을 거둔 것을 보인다. 다만, 딥페이크 감지 모델이 실제 대중적으로 운영되는 방식을 찾아내는 것이 중요하다"라고 말했다.
이어, 식 박사는 "AI 소프트웨어의 딥페이크 감지 부문의 한 가지 주된 문제는 소프트웨어를 속이는 문제에 대응할 방법이다. 게다가 한 가지 AI 소프트웨어로 모든 딥페이크 콘텐츠를 감지하는 것이 적합할지도 의문"이라고 강조했다.
하스너 박사도 향후 딥페이크 콘텐츠 유포 세력이 딥페이크 감지 소프트웨어를 속일 수 있다는 점을 인정했다. 딥페이크 콘텐츠 생성 활동만큼 딥페이크 인증 수단을 속일 AI 요소 개발도 활발하게 이루어지는 추세이기 때문이다.
또, 페이스북과 이번 연구에 협력한 미시간주립대학교의 샤오밍 리우(Xiaoming Liu) 박사는 "각각의 딥페이크 사례를 염두에 두고 AI 소프트웨어 평가와 검증 과정을 거쳤다. 그러나 훈련을 통해 딥페이크 출처를 찾아낸다는 특성 때문에 AI 소프트웨어가 감지할 딥페이크 콘텐츠의 양에 따라 감지 정확도가 달라질 수 있다. 더 구체적으로 말하자면, 딥페이크 조작 행위 발생 규모가 적다면, 감지 정확도가 낮아질 수도 있을 것"이라고 답변했다.
현재, 연구팀이 개발한 AI 소프트웨어가 어떤 식으로 적용될 것인지 확실하지 않다. 아직 상용화 논의가 이루어지기 전이기 때문이다. 다만, 하스너 박사는 조직화된 딥페이크 공격 감지 활동에 이번에 개발한 AI 소프트웨어를 활용할 수 있다고 밝혔다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]
