CWN(CHANGE WITH NEWS) - 독립 검색 엔진 플랫폼 CEO “AI가 생성한 콘텐츠, 가장 큰 문제는 신뢰성·투명성 부재＂

투명성을 지향하는 독립 검색 엔진 개발 및 정보 검증 전문 기업 시커(Seekr) CEO 팻 콘도(Pat Condo)가 블룸버그 뉴스 채널인 블룸버그 테크놀로지에 출연, 인공지능(AI)이 생성하는 거짓 정보에 주의해야 한다고 경고하며, 오늘날 AI의 문제점을 비판했다.

콘도는 챗GPT와 같이 텍스트 생성 능력을 갖춘 AI의 기본 개발 목적은 최대한 많은 콘텐츠를 생산하는 것이라고 말했다. 그리고 많은 이들이 소비할 콘텐츠를 최대한 생산하여 소득을 높인다는 목표를 지녔다.

이어서 오늘날 웹에 확산되는 콘텐츠의 가장 큰 문제점은 투명성 부재라고 지적했다. 콘도는 “게다가 이제는 자동화를 기반으로 콘텐츠를 대거 생성할 수 있는 생성형 AI가 등장했다”라며, “시간이 지날수록 생성형 AI 활용 영역과 금지 영역을 정하는 것이 중요해질 것”이라고 언급했다.

그리고 ‘등급 시스템’의 중요성을 강조했다. 등급 시스템은 생성된 콘텐츠의 품질과 신뢰성을 평가하는 역할을 한다. 이와 관련, 콘도는 “등급 시스템으로 콘텐츠를 평가하면서 신뢰도를 높이고, 이를 바탕으로 콘텐츠를 사용할 수 있을 것이다. 또, 신뢰성이 검증된 콘텐츠를 기반으로 또 다른 콘텐츠를 제작할 수도 있을 것이다”라고 설명했다.

블룸버그 테크놀로지 진행자 에드 루드로우(Ed Ludlow)가 마이크로소프트의 챗GPT(ChatGPT)를 빙 검색 엔진에 통합한 사실과 구글의 AI 챗봇 바드(Bard)가 데모 현장에서 사실과 다른 답변을 내놓은 사례를 언급했다.

이에, 콘도는 “마이크로소프트와 구글 모두 신뢰성이나 투명성을 근간으로 하지 않은 채로 새로운 기술과 서비스를 시장에 출시하려 추진할 수 있다는 점을 보여주었다고 생각한다. 지금 당장 기술의 발전보다 혼란과 우려를 더 키울 수도 있다. 투명성과 품질 척도를 둔 채로 AI 챗봇을 개발해야 한다”라는 견해를 밝혔다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]