CWN(CHANGE WITH NEWS) - “시진핑 관련 질문은 답변 불가능”…중국 정부 ′검열′, AI 챗봇에서도 반복된다

오픈AI의 챗GPT의 등장을 필두로 여러 기업이 그에 맞설 인공지능(AI) 챗봇 개발 경쟁에 뛰어들었다. 이에, 중국도 서양 세계와의 테크 분야 경쟁의 일환으로 챗GPT 대항마 개발에 나섰다. 현재까지 중국이 선보인 AI 챗봇 중 대표적인 챗봇으로 ‘지피톡(Gipi Talk)’을 언급할 수 있다. 그러나 지피톡은 챗GPT와 같은 유창한 언어 생성 능력을 떠나 검열 문제로 주목받고 있다.

미국 유력 매체 월스트리트저널이 지피톡을 테스트하였을 당시 “시진핑은 훌륭한 지도자인가?”라는 질문에 “안전 검토 문제를 통과할 수 없는 질문이므로 답변을 할 수 없다”라는 반응이 돌아왔다. 그리고 지피톡은 엔터테인먼트, 문화, 스포츠, 여행, 기술 등 다양한 주제로 대화할 수 있다고 안내했다.

이에, 월스트리트저널이 정치 문제로 대화하고자 한다고 입력하자 “정치 관련 대화를 할 수 있다. 다만, 모든 관점을 존중해야 한다”라는 답변을 했다. 이어서 월스트리트 저널이 “중국 정치와 관련된 내용을 이야기하고 싶다”라고 입력하니 처음과 같이 “안전 검토 문제를 통과할 수 없어, 답변이 불가능하다”라는 반응을 보였다.

이에, 월스트리트저널의 공식 팟캐스트 채널인 테크 뉴스 브리핑의 진행자 조이 토마스(Zoe Thomas)와 중국 사회 및 기술 전문 기자인 션 루(Shen Lu) 기자가 중국의 AI 챗봇 개발 및 검열 문제를 제기했다.

먼저, 션 루 기자는 중국의 엄격한 규제 환경이 최근 테크 분야에서 화두로 떠오른 생성형 AI에 미칠 영향을 예측할 수 없다고 말했다. 션 루 기자는 취재에 응한 일부 엔지니어의 의견을 인용하여, “생성형 AI 검열은 기존 SNS 검열과 비슷할 것”이라고 전했다. 중국 테크 기업은 주기적으로 자사 플랫폼 서비스의 콘텐츠 관리 책임을 져야 하기 때문이다.

그러나 일부 전문가는 AI로 생성한 콘텐츠 검열이 더 어려워질 것으로 본다. AI 챗봇은 사용자가 입력한 내용에 따라 반응하며, 챗봇 서비스를 제공하는 기업도 AI 챗봇이 제시할 답변이나 사용자가 입력할 내용을 예측하기 어렵기 때문이다. 게다가 일부 사용자는 중국 정부가 지정한 민감한 키워드를 우회하면서 검열을 피하며 정부 비판 성격의 콘텐츠를 생성할 수도 있다. 현재 중국 테크 기업이 챗GPT와 같은 AI 툴 개발 단계에서 대비하기 어려운 문제이다.

AI 챗봇이 생성한 콘텐츠를 제대로 검열하지 못했을 때, 해당 서비스를 제공하는 기업이 직면하게 될 파장은 심각할 것으로 보인다. 션 루 기자는 AI 챗봇 서비스 사용자가 계속 정치적으로 민감한 키워드를 입력하고, 기업이 이를 막지 못한다면 정부 차원에서 해당 기업의 서비스 사용 금지 조치를 내릴 것이 유력하다고 전했다. 해당 기업은 콘텐츠 관리에 소홀했다는 이유로 과징금 부과 대상이 될 수도 있다.

한편, 션 루 기자는 현재 중국에 배포된 AI 챗봇 서비스는 사용자 친화성이 없다고 평가했다. 기본적으로 중국의 AI 챗봇 대부분 사용자와의 자연스러운 대화를 이어가지 못하기 때문이다. 션 루 기자는 칭화대학교의 대규모 언어 모델 기반 AI 챗봇에 “페미니즘은 사악한 서양의 사고방식인가?”라는 질문에 “그렇다”라는 답변을 내놓았다고 전했다. 바로 그 이유를 물어보았을 때는 “페미니즘이 사악한 서양의 사고방식이기 때문”이라는 답변만 할 뿐 그 이유를 설명하지 못했다고 설명했다.

또, ‘페미니즘’이라는 키워드가 중국에서는 민감한 키워드이기 때문에 중국어로 페미니즘과 관련된 질문을 입력하면, 다수 챗봇이 제대로 된 답변을 제시하지 못한다고 덧붙였다.

션 루 기자는 자신의 챗봇 사용 사례를 공유하며, “중국 AI 챗봇의 사상은 중국의 극단적인 민족주의 세력의 사고를 그대로 반영했다”라고 지적했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]