영상이나 밈에 자주 사용되는 딥페이크(Deepfakes)는 최근 악용에 대한 우려가 커지고 있다. 조작된 정보나 뉴스가 많아지는 시대에 AI로 생성된 조작된 사진 또는 비디오는 사람들을 혼동시키거나 범죄에 악용될 가능성이 높기 때문이다.
지난 1일(현지시간) 마이크로소프트(MS)가 점점 더 정교해지고 많아지는 딥페이크 콘텐츠를 추적하기 위한 새로운 기술 두 가지를 발표했다고 매셔블이 보도했다.
마이크로소프트가 발표한 기술은 딥페이크를 걸러내는 데 필요한 도구를 제공한다.
마이크로소프트 공식 사이트에 따르면 첫 번째 기술인 ‘마이크로소프트 비디오 인증자’는 이미지와 비디오를 분석해 “언론이 인위적으로 조작될 확률 또는 신뢰 점수”를 부여한다. 이 도구는 인간의 눈이 감지하지 못하는 미묘한 퇴색, 그레이 스케일 요소, 경계 등 혼합된 요소를 감지함으로써 작동한다.
두번째 기술은 콘텐츠 제작자가 이미지나 동영상에 ‘디지털 해시 및 인증서’를 추가할 수 있게 한다. 마이크로소프트의 클라우드 서비스인 아즈레(Azure)에서 지원될 예정이다. 디지털 해시 및 인증서를 추가하면 미디어가 온라인으로 전파될 때 메타 데이터에 포함되어 전파된다. 브라우저 확장 도구는 이러한 해시와 일치 여부를 확인해 원저작자가 누구인지, 이후 콘텐츠가 조작되었는지 여부에 대한 정보를 제공한다.
다만, 마이크로소프트가 딥페이크를 분별하는 기술을 개발했다는 사실이 딥페이크를 완전히 예방할 수 있다는 것은 아니다. 마이크로소프트가 블로그에 언급한 것처럼 딥페이크의 기술은 갈수록 정교해지고 있기 때문에 AI 도구 또한 이에 맞춰 업그레이드가 필요하다. 또한 미디어에 해시를 추가하고 탐지하는 기술은 실제로 해시를 사용하는 사람이 있어야지 제 역할을 할 수 있다.
마이크로소프트 이외에도 온라인에서 사실과 허구를 가려내고 딥페이크 문제에 대한 해결책을 찾고자 하는 기업이 많이 있다. 지난 1월 페이스북은 딥페이크에 대한 금지 조치를 내린 뒤 검출을 위한 노력을 공개했고, 트위터는 딥페이크 콘텐츠에 ‘조작-합성 매체’라는 표시를 붙이기 시작했다. 또 레딧은 자체적인 금지 조치를 내놓았다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]
