CWN(CHANGE WITH NEWS) - 2023년에는 놀라움 선사한 ′생성형 AI′, 2033년에는 인류 사회 혼란의 원흉으로 전락?

생성형 인공지능(AI)을 중심으로 AI가 순식간에 인간을 능가하는 역량을 선보이며, 끝없는 발전을 거듭한다. 이미지 생성 AI 툴 스테이블 디퓨전(Stable Diffusion) 개발사 스테이빌리티 AI(Stability AI) 창립자이자 CEO인 에마드 모스타퀴(Emad Mostaque)는 단 2년 후면, 화상회의 도중 누구나 진짜 인간과 같은 움직임과 얼굴, 음성 등을 실시간으로 완성하는 생성형 AI가 등장할 수도 있다고 내다보았다.

이에, 북미 비즈니스 잡지 패스트컴퍼니의 제주스 디아즈(Jesus Diaz) 기자가 앞으로 10년간의 AI 기술 발전 및 활용 상황을 예측하였다.

먼저, 올해는 챗GPT의 성공과 AI 챗봇을 더하면서 새로워진 빙, 구글의 바드까지 AI 챗봇과 검색 엔진을 중심으로 AI 활용 사례가 널리 확산될 것으로 보인다. 그러나 이미 널리 지적된 바와 같이 AI 챗봇이 사실을 조작하고, 거짓을 사실인 것처럼 부정확한 정보를 제공하는 문제가 거듭 반복될 우려가 있다.

또, 할리우드에서는 프로덕션 디자이너가 다양한 컨셉과 무대 제작에 AI를 본격적으로 활용하기 시작할 것이다. 실제로 톰 크루즈의 딥페이크 버전을 제작한 것으로 유명한 기업인 메타피직스(Metaphysic)는 엔터테인먼트 및 스포츠 에이전시 ‘크리에이티브 아티스트 에이전시(CCA)’와 고객의 생체 프로필을 생성하기로 합의했다. 양사는 고객이 사망하더라도 생체 프로필 제작에 나설 계획인 것으로 알려졌다.

2025년이면, 누구나 명령어 한 줄을 입력하면, 상상한 모든 이미지를 제작할 수 있는 이미지 생성 AI 툴을 전 세계 인구 누구나 활용할 수 있도록 배포될 것이다. 덩달아 딥페이크 기술을 악용한 범죄가 만연해질 것이다. 특히, 딥페이크를 악용하여 피해자를 모욕하거나 협박하는 등 집단 괴롭힘 범죄 소식을 다룬 뉴스가 자주 보도될 것이다. AI 개발자들은 이미지 생성 AI 툴을 범죄에 악용하는 사례를 막으려 하지만, 얼마든지 복제가 가능하다는 점에서 문제를 해결하기에는 역부족일 것이다.

전문 지식 분야를 주제로 깊이 있는 대화를 할 수 있는 챗봇이 등장할 것이다. 또, AI 챗봇의 대화 능력은 인간과 구분할 수 없을 정도로 정교해질 것이다.

그리고 사용자가 자신의 목소리를 타인의 음성으로 변환할 수 있는 앱이 출시될 수도 있다. 콘텐츠 크리에이터는 해당 앱을 이용하여 유명인의 목소리로 말하는 모습을 담은 영상을 제작할 것이다. 그러나 보이스피싱 및 신원 도용 사기에 악용되는 사례도 덩달아 증가할 것이다.

2027년경이면, 각종 AI 툴을 이용하여 선동 광고를 기획하고 널리 퍼뜨리는 정치 조직이 우후죽순으로 등장하여 전 세계는 혼란에 빠질 수도 있다. AI를 악용한 선동 광고 유포 상황이 너무 심각해, 많은 시민이 의회 청문회를 시청하며 위기를 해결할 방법을 전혀 모르는 의원들의 말에 귀를 기울이게 된다. 하지만 명확한 규제가 없는 상황에서 AI 기업은 자사 앱이 단순히 창의적인 도구라고 주장하며, 업그레이드된 버전의 소프트웨어를 끊임없이 출시한다.

2~3년 후면 생성형 AI 기술이 더 발전하여 음성 명령으로 영상 제작 및 변경이 가능한 SNS 앱이 등장할 것이다. 사용자가 “마이크를 물컵으로 바꿔줘”라고 말하면, 앱은 사용자의 명령을 이해하고 영상을 즉시 변경한다. 간단한 음성 및 텍스트 명령을 정확하게 이해하여 실제와 같은 가상 세계 구축 노력이 시작될 것이다. 또, 해당 기술은 비디오 게임 개발에도 활용될 것이다.

2033년, 고인이 된 배우가 주연으로 등장하는 영화가 상영된다. 해당 영화는 저예산에 10명도 안 되는 인력이 딥페이크로 고인의 모습을 재현하고, 앞서 언급한 음성 명령 기반 영상 제작 기술만으로 완성한 영화이다.

한편, 해외의 어느 한 분쟁 지역에서 극단주의 세력이 시민을 무자비하게 살해하는 영상이 순식간에 퍼지며, 전 세계 언론 보도 내용을 장악한다. 살인 장면은 여러 대의 휴대폰으로 다양한 각도에서 촬영되었으며, 확산과 동시에 전 세계 인구의 분노를 불러일으킨다. 하지만 해당 영상은 AI가 생성했다는 사실이 뒤늦게 알려진다.

디아즈 기자는 10년간 AI의 발전 및 활용 사례를 위와 같이 제시하며, 과거 인터넷과 SNS의 문제와 같이 기업의 자율 규제를 신뢰하여 AI의 문제를 예방한다는 의견은 무지한 의견이라고 지적했다. SNS의 유해성이 논란이 되었을 당시 많은 기업이 매출에 눈이 멀어 윤리성과 거짓 정보 유포 등 인류에 미칠 피해를 최소화하기 위한 노력에 소홀한 모습을 보인 점을 예시로 언급할 수 있다. 세계 각국 정부의 AI 규제를 위한 협력을 촉구해야 하는 이유이다.

그러나 모스타크는 “AI의 잠재적 영향에 대한 공개적 논의가 필요한 것은 사실이다. 그러나 사회에 미칠 수 있는 복잡성 때문에 엄격한 규제보다는 공개 논의가 최선의 방법이라고 할 수 있다”라고 주장했다.

다만, 그는 AI의 잠재적 위험성으로부터 사용자를 보호해야 할 필요성을 인정하며, “의회에서는 AI의 위험성으로부터 인간을 보호하기 위한 법률 시행을 생각해야 할 필요가 있다”라고 말했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]