애플·월마트, 챗GPT 등 AI 봇 사용 연달아 금지

애플·월마트, 챗GPT 등 AI 봇 사용 연달아 금지: 고다솔 / 기사승인 : 2023-05-12 16:09:33

마이크로소프트, 스냅(Snap), 쇼피파이(Shopify) 등 다양한 기업이 자사 서비스에 오픈AI(OpenAI)의 챗봇인 챗GPT(ChatGPT)를 통합하며, 서비스 혁신 방향을 모색하기 시작했다. 반대로 일부 기업은 챗GPT 사용을 금지하였다.

월스트리트저널, CNBC, 와이어드 등 복수 외신은 애플 앱스토어에서 인공지능(AI) 기반 메일 작성 앱인 블루메일(BlueMail)이 챗GPT를 통합한 업데이트 사항 적용이 거부된 사실을 보도했다.

애플은 금지 사유로 블루메일 챗봇이 콘텐츠 관리 과정 없이 미성년자에게 부적절한 표현을 생성할 수 있다는 점을 지목하며, 블루메일 사용 연령을 17세 이상으로 높여야 한다고 설명했다.

이에, 블루메일 개발사인 블릭스(Blix) 공동 창립자 벤 볼라치(Ben Volach)는 월스트리트저널과의 인터뷰에서 “애플이 블루메일 앱 업데이트 사항을 금지한 이유는 이메일 작성을 돕는 데 챗GPT를 통합한다는 점과 챗봇이 생성한 내용을 검토할 필터가 없다는 점”이라고 주장했다. 또한, 볼라치는 애플이 AI 업데이트를 차단한다는 불만을 담은 트윗을 게재했다.

글로벌 월간지 와이어드는 애플의 블루메일 금지가 여러 업계가 생성형 AI의 등장에 따른 급격한 변화에 대응하는 시점에 발표되었다고 설명했다. 실제로 일부 학교에서는 표절 가능성을 지목하며, 챗GPT 사용을 금지했다. 반대로 공상과학 잡지 출판사부터 법무법인까지 다양한 조직에서는 간단한 업무 처리를 위해 AI를 활용하는 추세이다.

그러나 CNBC는 애플의 블루메일 업데이트 거부가 애플의 AI 앱 전면 단속이 임박했다는 의미는 아니라고 보았다. 그 근거로 챗GPT를 통합한 스냅챗 앱과 마이크로소프트 빙 앱이 앱스토어에 배포된 사실을 언급했다. 또한, 렌사(Lensa)를 포함한 여러 AI 앱도 앱스토어에서 배포되었기 때문이다.

이어서 CNBC는 애플이 추후 AI 특별 지침을 추가할 가능성을 언급하며, 그 예시로 암호화폐 앱을 언급했다. 실제로 애플은 지갑 앱의 암호화폐 사용 관련 조항을 추가한 적이 있으며, 지난해에는 NFT 관련 규정을 새로이 발표하기도 했다.

최근에는 애플에 이어 월마트도 챗GPT를 비롯한 AI 챗봇 사용을 반대했다. 월마트가 AI 챗봇 사용을 금지한 이유는 고객 프라이버시 문제이다. 월마트 사내 문건 유출 내용에는 챗GPT에 민감한 기밀 정보를 입력해서는 안 된다는 내용이 명시되었다. 특히, 월마트 직원의 AI 봇을 이용한 고객 정보 공유 혹은 월마트 사업 관련 정보 입력을 금지하는 점을 경고하였다. AI 챗봇에 개인 정보를 입력할 때 어떤 결과가 발생할지 예측할 수 없다는 문제점 때문이다.

실제로 월마트 내부 관계자 이외에도 많은 이들이 챗GPT를 포함한 복수의 서드파티 AI 툴이 개인 정보나 기업 내부의 민감 정보의 외부 유출 원인이 될 수 있다는 점을 우려하였다. 또한, 마이크로소프트와 아마존도 AI를 이용한 개인 정보 공유를 경고한 바 있다.