CWN(CHANGE WITH NEWS) - 틱톡 크리에이터 마켓플레이스, 인종 차별 논란...문제는 ′알고리즘′

짧은 영상과 함께 Z세대 사용자의 사랑을 받는 SNS 플랫폼 틱톡이 크리에이터가 여러 브랜드와의 후원 계약을 위해 연결하도록 도움을 주고자 지난해, '틱톡 크리에이터 마켓플레이스(TikTok Creator Marketplace)'를 내놓았다. 현재 베타 테스트로만 사용할 수 있는 틱톡 크리에이터 마켓플레이스가 해외에서 인종차별 논란으로 뭇매를 맞고 있다. 무슨 문제일까?

틱톡 크리에이터 마켓플레이스, 어떤 문제 발생했나?
포브스, 더힐, 디 인디펜던트 등 복수 해외 매체는 미국 틱톡 크리에이터 마켓플레이스 사용자 지기 타일러(Ziggi Tyler)가 흑인 관련 키워드 때문에 콘텐츠 등록 거부를 당한 소식을 보도했다.

타일러는 틱톡 콘텐츠에 '흑인', '흑인의 목숨도 소중하다(Black Lives Matter)' 등과 같은 표현을 포함했다. 그러나 틱톡 알고리즘은 타일러가 사용한 흑인 관련 표현이 '부적절한 콘텐츠'를 포함한 것으로 분류해, 콘텐츠를 정상적으로 등록하지 않았다.

여기까지만 보더라도 무언가 오류가 있다는 사실을 알 수 있다. 그런데, 더 문제가 되는 것은 이후의 상황이다.

타일러는 추후 제대로 등록되지 않은 영상에 '친백인 성향', '백인 우월주의', '신나치주의' 등과 같은 키워드를 추가하자 별다른 문제 없이 즉시 콘텐츠 등록이 완료됐다고 밝혔다.

틱톡 크리에이터 마켓플레이스 측의 반응은?
타일러가 포브스와의 인터뷰를 통해 틱톡 크리에이터 마켓플레이스의 문제를 알리자, 틱톡 측은 이번 문제 발생 사실을 부인하지 않았다.

포브스 측도 자체적으로 '흑인'이나 '흑인의 목숨도 소중하다'라는 키워드와 함께 '대중'이라는 키워드를 추가하고 틱톡 크리에이터 마켓플레이스의 알고리즘을 확인해 보았다. 그런데, 알고리즘이 '흑인'과 '대중'이라는 키워드를 결합해 '죽다'라는 표현으로 인식하는 다소 이해하기 어려운 결과가 나왔다.

이에, 틱톡 관계자는 틱톡 크리에이터 마켓플레이스에 적용된 알고리즘의 문제이며, 혐오 발언 필터를 위해 설계된 보호 작업에 결함이 있었다고 해명했다.

틱톡 알고리즘의 흑인 차별, 처음이 아니다
사실, 틱톡은 이전에도 다수 흑인 사용자의 비판을 받았다. 최근, 타일러의 사례와 같이 흑인을 차별하는 알고리즘 문제가 수 차례 논란이 된 탓이다.

지난해, 미국에서 흑인 청년 조지 플로이드(George Floyd) 살인 사건을 계기로 시위가 발생하자 알고리즘이 '#흑인의목숨도소중하다', '#조지플로이드'라는 두 가지 해시태그 언급 횟수 집계 결과를 제공하지 못했다. 당시 틱톡 대변인은 알고리즘의 해시태그 집계 과정에 기술적 결함이 있다고 인정했다.

또, 최근에는 백인 크리에이터를 선호하는 광고 기업에 불평등하게 편향적인 모습을 보였다는 이유로 일부 흑인 인플루언서가 틱톡에서 '가상 시위'를 벌였다.

한편, 타일러는 이번 문제를 알리면서 "선택하는 알고리즘이 무엇이든 사람이 직접 알고리즘 프로그램 작업을 했을 것이다. 틱톡 자체의 알고리즘에 문제가 있고 인종차별 논란이 존재한다는 사실을 알고 있는데도 지난해 출시된 틱톡 크리에이터 마켓플레이스의 알고리즘의 문제를 여태 수정하지 않은 이유는 무엇인가?"라고 지적했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]