틱톡 알고리즘, 미성년자에게 섭식장애 등 유해 콘텐츠 제공 문제 여전

틱톡 알고리즘, 미성년자에게 섭식장애 등 유해 콘텐츠 제공 문제 여전: 고다솔 / 기사승인 : 2022-10-05 18:10:19

지난해, 미국 유력 매체 월스트리트저널이 전 세계 사용자 10억 명을 넘어선 글로벌 인기 SNS 플랫폼 틱톡의 알고리즘이 10대 사용자에게 섭식 장애, 자해 관련 콘텐츠를 제공한 사실을 밝혀냈다. 이후 틱톡 추천 알고리즘의 콘텐츠 제공 문제가 논란이 되자 틱톡 측은 문제성 콘텐츠를 모두 차단한다고 공식 발표했다.

하지만 월스트리트저널은 틱톡 알고리즘의 문제성 콘텐츠 공유 논란 후 약 9개월이 지난 지금도 같은 문제가 반복된다는 사실을 발견했다. 이에, 월스트리트저널의 공식 팟캐스트 테크 뉴스 브리핑 진행자 조이 토마스(Zoe Thomas)와 가정&기술 전문 칼럼니스트 줄리 자곤(Julie Jargon)이 틱톡이 지금도 미성년자에게 섭식 장애, 자해 등 문제성 콘텐츠를 계속 제공하는 이유를 이야기했다.

자곤 기자가 지적한 바와 같이 10대 청소년이 건강 관련 영상을 찾을 때, 섭식장애 관련 영상이 함께 등장한 사례가 여러 차례 보고되었다. 자곤 기자는 “일례로, 많은 사용자가 건강한 식단과 관련된 콘텐츠를 찾아볼 때, 미국 식품의약청(FDA)의 권고보다 훨씬 더 적은 칼로리를 섭취해야 한다고 홍보하는 영상을 접한다. 체중 감량이 필요하다면, 유용할 수도 있는 조언이다. 하지만 대다수 사용자에게는 하루 동안 제한된 음식만 섭취한다면, 건강을 해칠 수 있다. 많은 틱톡 영상이 제대로 된 경고 사항을 전달하지 않는다”라고 말했다.

자곤 기자는 틱톡이 섭식장애 극복 영상 게재를 허용한다는 점에도 주목했다. 실제 섭식장애 극복이 필요한 사용자에게는 유용한 정보를 제공할 수도 있는 콘텐츠이다. 그러나 자곤 기자가 인터뷰한 청소년 대부분 “섭식장애 극복이라는 카테고리로 게재된 영상 대부분 마지막에는 음식 섭취 자제를 강조하고, 타인과 섭취량 감소를 두고 경쟁하도록 강요한다”라고 밝혔다.

자곤 기자는 음식 섭취량 감소 전 모습과 섭식장애 발생 후 가장 마른 모습을 동시에 비교하는 콘텐츠도 10대 청소년 사용자의 섭식장애를 유발하는 문제성 콘텐츠 발견 사례도 이야기했다. 해당 콘텐츠를 본 일부 청소년은 “다른 사용자가 섭취량 감소 후 가장 마른 모습을 공유한 사진을 보았을 때, 나의 체중은 줄어들지 않은 것 같아 비교되었다”라고 말했다.

그렇다면, 틱톡이 섭식장애 콘텐츠와 같은 문제성 콘텐츠를 제대로 차단하지 못하는 이유는 무엇일까?

먼저, 틱톡의 차단 조치를 우회하여 교묘하게 키워드를 변경한 채로 콘텐츠를 게재하는 사례가 많다는 점을 지적할 수 있다. 예를 들어, ‘섭식장애’라는 키워드를 입력하면 영상이 차단될 것을 막고자 ‘섭식장1애’, 혹은 ‘섭식장에’와 같이 글자 표기를 교묘하게 변경한 채로 게재된 콘텐츠를 어렵지 않게 찾아볼 수 있다. 또, 비교적 최근까지만 하더라도 구글 검색을 이용해 틱톡에서 차단되는 콘텐츠를 찾아볼 수도 있었다.

틱톡의 유해성 콘텐츠 차단 문제 사례를 접한 다수 정신건강 전문가는 “온라인에는 완벽히 안전한 공간이 없다. 종류를 떠나 정신건강 문제를 극복하는 데 어려움이 있는 이들은 온라인으로 모이면서 함께 극복 사례를 공유하기도 한다. 특히, 섭식장애 환자 사이에서 온라인 모임과 극복 노력 공유가 활발하게 이루어진다. 그러나 안타깝게도 SNS를 통해 확산된 극복 사례 중 가짜 극복 사례가 많다”라고 경고했다.

이어서 “SNS를 이용한 문제성 콘텐츠 접근을 막을 근본적인 해결책으로 사용자가 직접 유해 콘텐츠와 관련된 키워드를 차단해야 한다. 문제성 콘텐츠를 추천하지 않도록 개인 맞춤형 추천 알고리즘을 길들이기 위한 문제성 키워드 차단 기능 활용 이외에는 뚜렷한 해결책을 찾기 쉽지 않다”라고 전했다.