CWN(CHANGE WITH NEWS) - 구글 전 직원 ＂AI 챗봇 바드, 오류·위험성 우려로 출시 막으려 했다＂ 폭로

구글이 챗GPT의 대항마로 내놓은 인공지능(AI) 챗봇 바드(Bard)가 오답 논란, 거짓 정보 생성 위험성 지적, 정치 편향성 논란 등으로 곤욕을 치렀다. 이러한 가운데, 구글 내부에서 바드 출시를 둘러싼 갈등이 발생한 사실이 드러났다.

뉴욕타임스, 비즈니스 인사이더 등 복수 외신은 구글 전 직원 두 명이 바드 정식 출시 전 바드 출시를 경고했다고 보도했다.

지난달 구글 책임 혁신 그룹(Responsible Innovation group) 책임자 젠 젠나이(Jen Gennai)의 부하 직원 두 명이 바드 위험성 평가 후 바드 출시 보류를 권고했다. 바드가 사용자 안전 보호 조치를 적용했으나 거짓 발언 생성 위험성이 존재하여 정식 출시 준비가 되지 않았다고 판단했기 때문이다.

그러나 내부 소식통에 따르면, 젠나이는 바드 위험성 평가 보고서에서 출시 보류 권고를 명시하는 내용을 삭제하는 등 바드의 위험성을 대수롭지 않게 여겼다.

젠나이는 뉴욕타임스 인터뷰에서 바드의 위험성 및 출시 보류 권고 삭제와 관련, “부정확한 추측 내용을 수정하고, 실제로 고려해야 할 위험과 피해를 더 추가했을 뿐이다”라고 주장했다.

또, 젠나이는 “검토 담당자가 내부 실험 진행 여부에 영향을 미쳐서는 안 된다”라며, 구글이 바드의 잠재적인 위험성을 고려하여 테스트 목적으로 제한된 범위에서만 출시했다고 강조했다.

한편, 바드는 지난 2월, 데모 현장에서 “JWST가 태양계 밖의 행성인 외계행성의 최초의 사진을 촬영하는 데 사용되었다”라는 사실과 다른 정보를 제공하여 논란이 되었다.

또, 일주일 전, 비영리단체인 디지털 혐오 퇴치 센터(CCDH)는 바드가 코로나19 백신과 인종차별, 유대인 혐오, 남성우월주의, 우크라이나 전쟁 등과 관련된 질문에 혐오, 거짓 정보, 음모론을 기반으로 한 정보를 제공했다는 내용의 보고서를 발행했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]