언론계부터 SNS 플랫폼, 지역 사회, 그리고 국가까지 많은 곳에서 가짜 뉴스와의 전쟁이 오랫동안 이어지고 있다. 많은 이가 오랜 시간 가짜 뉴스 퇴치 노력을 이어왔으나 여전히 가짜 뉴스는 사라질 기미가 보이지 않는다.
이에, 인공지능(AI) 기반 솔루션까지 동원됐으나 효과가 없었다. 인간과 AI 모두 가짜 뉴스를 없애지 못하는 이유는 무엇일까?
AI, 가짜 뉴스 퇴치 해결책 아니다
해외 테크 매체 더넥스트웹은 테네시대학교와 렌셀러폴리테크닉대학교 연구팀이 알고리즘을 이용한 가짜 뉴스 퇴치 관련 논문을 게재한 사실을 보도했다. 연구팀은 논문을 통해 가짜 뉴스를 퇴치하려면 AI 알고리즘보다 더 영리한 전략이 필요하다고 주장했다.
연구팀은 AI가 가짜 뉴스 퇴치 과정에서 인간이 펼치는 노력과 같은 행동을 절대 하지 못한다고 설명한다. AI가 숫자 계산과 같은 작업을 인간보다 빠르고 효율적으로 수행하는 것은 사실이다. 그러나 AI는 이미 인간이 훌륭하게 해낼 수 있는 작업만 성공적으로 처리할 수 있다.
인간은 가짜 뉴스 퇴치를 제대로 하지 못한다. 따라서 AI도 가짜 뉴스를 퇴치하지 못한다. 더 정확히 말하자면, AI의 가짜 뉴스 퇴치 능력은 인간보다 뒤처진다.
가짜 뉴스 퇴치하지 못하는 이유는?
연구팀은 AI가 가짜 뉴스를 퇴치하지 못하는 이유로 확증 편향을 언급했다. AI에는 인간의 사고가 그대로 반영된다. 인간이 지닌 개인적인 선입견도 예외없이 반영된다.
연구팀은 AMT(Amazon Mechanical Turk)의 뉴스 소비자 데이터를 기반으로 가짜 뉴스 판별 능력을 평가했다. 이때, 연구팀은 새로운 뉴스에 거짓 정보가 포함된 상황과 이미 가짜 뉴스로 판별된 특정 보도에 거짓 정보가 포함된 상황에서의 가짜 뉴스 판별 능력을 시험했다.
실험 결과, 새로운 뉴스에 거짓 정보가 포함됐을 때, AI의 가짜 뉴스 판별 능력이 현저히 낮은 것으로 확인됐다. 연구팀은 이 때문에 가짜 뉴스 감지 AI 시스템 설계 및 개발, 훈련이 사실상 불가능에 가까운 수준으로 어렵다고 판단했다.
많은 사람이 가짜 뉴스를 구분할 수 있다고 주장한다. 그러나 실제로 가짜 뉴스 유포 세력은 사실 보도를 기반으로 교묘하게 거짓 정보를 섞어 가짜 뉴스를 유포해, 가짜 뉴스를 정확히 판별하기 어렵게 만든다.
실제로 인간은 사실에 거짓 정보가 교묘하게 섞인 것을 정확히 판별하지 못한다. AI가 명백한 거짓 정보는 어느 정도 판별할 수는 있다. 그러나 AI 시스템은 이미 확인된 데이터만으로 가짜 뉴스를 찾아내도록 훈련받는다. 따라서 새로 알려진 사실에 거짓 정보가 섞인 뉴스는 제대로 판별하지 못한다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]
