CWN(CHANGE WITH NEWS) - AI 기술 발전의 어두운 이면, ′딥페이크′

4차 산업혁명 시대에 인공지능은 굉장히 중요한 키워드로 떠오르고 있다. 간단한 스피커에서부터 자율주행 자동차까지, 인공지능은 이제 일상 속으로 많이 스며들고 있다. 인공지능이란 인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현한 컴퓨터 프로그램이다. 인공지능의 학습하는 능력은 기술 발전에 혁신을 불러일으켰지만, 결코 좋은 방면으로만 성장하지 않았다.

2월 27일 방송된 TV 프로그램 그것이 알고 싶다의 '보고, 듣고, 의심하라-가짜와의 전쟁, 딥페이크' 편에서는 그저 칭찬만 받아왔던 인공지능의 악의적 기능을 이야기했다.

그렇다면, 딥페이크란 무엇일까? 딥페이크는 최근 심각한 문제를 여럿 일으키고 있다.

딥페이크는 딥 러닝(deep learning)과 가짜(fake)의 합성어로, 인공지능을 기반으로 한 '이미지 합성 기술'이다. 머신러닝 기술을 통해 영상이나 사진을 합성한다. 합성 기능을 악용해, 가짜 사진이나 영상을 만들 수 있고, 이는 가짜 뉴스나 악의적 의도로 사용될 수 있기 때문에 문제가 되고 있다.

단순한 사기뿐만 아니라 연예인의 스캔들을 조작해 이미지에 타격을 입힐 수 있고, 심지어 포르노에 다른 얼굴을 합성하여 가짜 포르노 혹은 리벤지 포르노까지도 만들 수 있다. 실제로 딥페이크 피해 사례가 무수히 많다. 여성 연예인의 얼굴을 합성한 불법 음란물을 생산하는 사례나 대선 전에 각국 대통령의 얼굴을 합성한 영상을 올려 가짜 여론을 형성하는 등 그 규모와 피해의 정도가 심각한 수준이다.

업계에 따르면, 국, 내외 연예인들의 얼굴을 합성하여 성인물을 만드는 개인 사업자도 늘어나고 있다. 딥페이크의 96%가 음란물이라고 할 정도이다. 연예인이 아니더라도 일반인의 얼굴을 합성해 협박하는 등 다양한 곳에서 문제가 일어나고 있다.

[SBS 그것이 알고싶다]

일반인을 협박하는 딥페이크 합성 음란물

딥페이크, 왜 문제일까?
포토샵으로 합성한 사진은 합성임을 알 수 있다. 하지만, 딥페이크 사진은 정교하기 때문에 구분이 거의 불가능한 수준이고, 심지어는 말할 때 입꼬리의 움직임까지 구현해낼 수 있다.

마이크로소프트나 구글 등 IT 기업들이 딥페이크를 탐지하기 위해 연구하고 있지만, 인공지능의 발전 속도가 상당해 그것 또한 쉽지 않다. 딥페이크는 기존 인공지능과 달리 수많은 데이터와 오랜 학습 기간 없이도 빠른 속도로 합성이나 변조가 가능하다는 것이 강점이다.

[SBS 그것이 알고싶다]

딥페이크로 합성한 사진

인공지능이 기술에 혁신을 가져오는 것은 분명하지만, 악의적으로 사용되는 기술의 윤리적 문제에 대해 관심을 가지고 비판해야 할 필요가 있다.

자세한 내용은 그것이 알고 싶다 1251화에서 확인할 수 있다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]