CWN(CHANGE WITH NEWS) - 미국판 이루다 사태?...AI 윤리, 해외서도 논란

2019년 12월에 출시된 래티튜드(Latitude)의 온라인 게임 ‘AI 던전’이 인공지능(AI) 윤리 문제로 화두가 되고 있다. AI 던전은 인공지능 기업 오픈AI의 GPT-3와 연동된 문자 생성 기술을 기반으로 출시된 게임이다. 플레이어가 NPC에게 수행하기를 원하는 동작이나 대화를 입력했을 때, 알고리즘이 개인화되는 방식이다. 이 게임은 완성도 높은 AI 기술로 최근 구글 앱 누적 다운로드 100만 건을 넘어섰다.

하지만 지난달, 오픈AI는 충격적인 내용을 발표했다. 새로운 모니터링 시스템에서 AI 던전의 일부 플레이어가 게임을 통해 아동과 관련된 성적인 만남을 묘사하는 단어를 입력하여 학습시키고 있다는 사실이 드러났다. 오픈AI는 래티튜드에 즉각적인 조치를 요청했다. 이번 문제와 관련, 오픈AI의 CEO 샘 알트먼은 성명을 통해 “AI 던전의 사례와 같이 AI를 악용하는 것은 그 누구도 원하는 AI의 미래가 아니다”라고 밝혔다.

그런데, 래티튜드가 대비책으로 가동한 필터링 시스템이 사용자들 사이에 논란이 되었다. 일부 사용자가 중재 시스템이 지나치게 민감하다며 불만을 표한 것이다. 한 사용자는 경고 메시지를 유발하지 않고는 "8년 된 노트북"과 같은 표현도 언급할 수 없다고 밝혔다. 또한, 다른 사용자도 내용상 문제가 없어도 특정 단어를 사용했다는 이유만으로 회사가 콘텐츠 전체를 수동으로 검토하게 돼, 사적인 가상의 창작물을 엿보는 것에 대한 반감을 표했다. 자유로운 창작의 놀이터로 인기가 높아진 AI 던전의 과한 감시 체계에 배신감을 느낀다는 의견이다.

현재의 AI 시스템은 특정 맥락의 성적인 요소 혹은 사회적으로 반감을 사는 맥락들을 이해하고 추출하여 필터링하는 것은 어렵기 때문에 앞으로 기술적인 향방과 AI 윤리 문제 해결에 대하여 귀추가 주목된다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]