CWN(CHANGE WITH NEWS) - 카카오 "AI 필터링 ′세이프봇′ 도입 후 욕설 댓글 60% 줄었다"

  • 흐림진주18.0℃
  • 흐림합천17.5℃
  • 흐림임실17.0℃
  • 구름많음속초17.5℃
  • 구름많음양평16.7℃
  • 구름많음인제14.1℃
  • 흐림정선군13.3℃
  • 흐림서울19.2℃
  • 흐림고흥20.1℃
  • 흐림북부산20.9℃
  • 흐림상주16.8℃
  • 흐림울진17.8℃
  • 흐림천안17.8℃
  • 흐림보성군17.9℃
  • 흐림거창15.7℃
  • 구름많음북춘천15.2℃
  • 흐림산청16.5℃
  • 흐림문경15.9℃
  • 흐림태백11.5℃
  • 흐림영천16.3℃
  • 흐림추풍령15.6℃
  • 구름조금제주23.0℃
  • 흐림고창19.0℃
  • 흐림경주시16.7℃
  • 구름조금성산24.6℃
  • 흐림철원16.1℃
  • 흐림영주15.0℃
  • 흐림구미17.1℃
  • 흐림순천16.0℃
  • 흐림동해16.7℃
  • 흐림홍천15.7℃
  • 흐림흑산도21.3℃
  • 흐림금산16.7℃
  • 구름많음해남19.8℃
  • 흐림남원19.4℃
  • 흐림북창원20.1℃
  • 흐림양산시21.2℃
  • 흐림서청주17.5℃
  • 흐림영광군19.2℃
  • 구름많음창원20.2℃
  • 흐림강진군18.4℃
  • 흐림장흥18.2℃
  • 구름많음원주16.5℃
  • 흐림부산20.7℃
  • 구름조금고산21.6℃
  • 구름많음남해19.9℃
  • 흐림부안18.6℃
  • 흐림안동16.6℃
  • 흐림보은16.4℃
  • 흐림광주19.3℃
  • 흐림보령19.5℃
  • 흐림장수15.2℃
  • 흐림부여18.4℃
  • 흐림청송군14.9℃
  • 흐림홍성18.4℃
  • 흐림광양시20.2℃
  • 맑음서귀포23.6℃
  • 흐림고창군19.2℃
  • 흐림울산19.0℃
  • 흐림군산18.9℃
  • 흐림거제19.9℃
  • 흐림밀양19.9℃
  • 흐림수원19.4℃
  • 흐림포항20.4℃
  • 흐림강화17.8℃
  • 흐림김해시19.5℃
  • 구름많음대전18.6℃
  • 구름많음북강릉17.9℃
  • 흐림충주17.1℃
  • 흐림강릉16.9℃
  • 흐림통영19.9℃
  • 흐림영덕17.2℃
  • 흐림의성16.6℃
  • 흐림이천17.0℃
  • 흐림울릉도19.6℃
  • 흐림백령도20.5℃
  • 흐림대구17.2℃
  • 흐림봉화12.7℃
  • 흐림인천20.1℃
  • 구름많음춘천15.8℃
  • 흐림대관령10.3℃
  • 구름많음진도군17.4℃
  • 흐림함양군16.2℃
  • 흐림전주18.8℃
  • 구름조금완도18.5℃
  • 흐림제천15.2℃
  • 구름많음동두천16.7℃
  • 흐림청주19.2℃
  • 구름많음목포20.6℃
  • 흐림영월14.9℃
  • 흐림세종18.4℃
  • 흐림여수20.5℃
  • 흐림서산18.9℃
  • 흐림정읍19.0℃
  • 흐림파주16.6℃
  • 흐림순창군17.8℃
  • 흐림의령군16.2℃
  • 2025.09.23 (화)

카카오 "AI 필터링 '세이프봇' 도입 후 욕설 댓글 60% 줄었다"

김지영 / 기사승인 : 2022-12-14 23:20:06
  • -
  • +
  • 인쇄

카카오가 AI 기반으로 댓글을 필터링하는 '세이프봇'의 성과 분석 결과를 14일 공개했다.

2020년 12월 도입된 세이프봇은 욕설, 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다. 욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다.

카카오에 따르면, 세이프봇 도입 후 욕설이나 비속어가 포함된 댓글과 이용자의 신고한 욕설 댓글 비중 등이 크게 줄어들었고 인터넷 댓글 문화의 건강성이 높아졌다. 세이프봇 적용 전인 2020년 하반기와 적용 이후인 2021년, 2022년 월평균 수치를 비교한 결과, 욕설이나 비속어가 포함된 댓글이 3분의 1 수준으로 줄었다.

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 또한 이용자의 신고에 의해 삭제된 욕설 댓글도 2021년 73.6%, 2022년 91.7% 감소하며, 12분의 1 수준으로 줄어들었다.

이는 세이프봇의 능동적 조치로 댓글 문화가 점차 성숙해진 결과라는 분석이다. 세이프봇이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링하면서 이용자들도 자발적으로 건전한 댓글 문화에 동참하게 된 것. 이에 따라 댓글 공론장의 건강성이 향상된 것으로 보인다.

카카오는 AI 기술을 고도화해 세이프봇의 성능을 더욱 강화하겠다는 방침이다. 지난 8월 증오발언 대응을 위한 '코딩북(Coding Book)' 제작에 나선 가운데, 증오발언을 판별하는 학습 데이터를 구축하고 내년 상반기에 이를 세이프봇에 적용한다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]

최신기사

뉴스댓글 >

- 띄어 쓰기를 포함하여 250자 이내로 써주세요.
- 건전한 토론문화를 위해, 타인에게 불쾌감을 주는 욕설/비방/허위/명예훼손/도배 등의 댓글은 표시가 제한됩니다.

댓글 0

Today

Hot Issue