딥페이크, 신규 콘텐츠 생성의 미래로 떠오를까?

딥페이크, 신규 콘텐츠 생성의 미래로 떠오를까?: 박병화 / 기사승인 : 2021-03-10 13:22:57

지난해 말, MBN 김주하 앵커의 한 영상이 화제가 되었다. 평소처럼 뉴스 보도를 하는 모습이 담겨있었지만, 어딘가 표정이 부자연스러워 보였다. 무언가 문제가 있었던 것일까? 아니다. 사실, 당시 김주하 앵커는 실제로 화면에 등장하지 않았다.

화제가 된 영상은 바로 국내 인공지능(AI) 개발 기업 머니브레인의 도움을 받아 딥페이크로 제작된 김주하 앵커의 모습을 담은 영상이었다. 해당 딥페이크 영상을 본 일부 네티즌은 "조만간 연예인이 전하는 뉴스 콘텐츠도 볼 수 있었으면 좋겠다"며 새로운 콘텐츠에 대한 기대감을 드러냈다.

최근, 딥페이크로 제작된 김주하 앵커의 영상이 영국에서도 화제가 되고 있다. 이에, 영국 방송사 BBC는 딥페이크가 새로운 콘텐츠 제작의 미래가 될 것이라는 견해를 보도했다.

AI, 뉴스 등 유익한 영상 제작한다
많은 사람이 딥페이크를 이야기할 때, 연예인이나 정치인의 모습을 교묘하게 조작한 이미지나 영상을 떠올리며, 부정적으로 바라본다.

그러나 실제로 딥페이크와 같은 AI는 공손한 표현을 사용하는 뉴스와 엔터테인먼트, 교육용 영상 제작에도 활발하게 사용된다.

대표적인 사례로 런던 AI 기업 신테시아(Synthesia)를 언급할 수 있다. 신테시아는 고객사를 위한 AI 기반 직원 교육 영상을 제공한다. 신테시아는 아바타를 선택하고, 전하고자 하는 말을 텍스트로 입력하는 방식으로 AI 영상을 제작했다.

신테시아 CEO 빅터 리파벨리(Victor Riparbelli)는 "AI는 새로운 콘텐츠 제작의 미래이다. 또, AI로 편리하게 다국어 영상을 제작할 수 있어, 특히 글로벌 기업에 큰 도움이 될 것이다"라고 설명했다.

딥페이크, 상업적 사용 증가한다
최근, 신테시아와 같이 기업 교육 영상 제작과 광고 영상 제작 등 딥페이크로 각종 상업용 영상을 제작하는 사례가 증가하고 있다.

딥페이크 문제를 추적하던 미국 사이버보안 기업 제로폭스(ZeroFox)의 최고기술관리자 마이크 프라이스(Mike Price)는 "상업적 용도로 딥페이크를 활용하는 사례가 증가하고 있지만, 그 정확한 수치를 확인하기 어렵다"라고 언급했다.

미국 AI 기술 기업 베리톤(Veritone) CEO 채드 스틸버그(Chad Steelberg)는 딥페이크의 상업적 사용을 경계한다. 그는 갈수록 딥페이크 악용 사례가 증가하면서 순수한 딥페이크 기술 투자가 제대로 이루어지지 않을 수 있으며, 결과적으로 이윤 창출에 부정적인 영향을 미칠 수 있다고 생각한다.

또, 그는 가짜 뉴스 유포와 같이 부정적인 사용 사례가 무수히 많은 딥페이크 영상을 사용한다면, 미디어와 소비자 모두에게 신뢰성 저해 문제와 같은 위험 요소를 안겨줄 수 있기 때문이다.

그러나 딥페이크 영상 사용 문제를 둘러싼 해결책이 전혀 없는 것은 아니다. 버지니아대학교 데보라 존슨(Deborah Johnson) 교수는 딥페이크가 거짓 정보 확산의 주된 문제의 원인이라는 점을 지적하며, 이를 해결하기 위해 "각각의 뉴스 영상에 라벨을 추가한다면, 딥페이크의 가짜 뉴스 유포 문제를 해결하는 데 도움이 될 것"이라고 주장했다.