CWN(CHANGE WITH NEWS) - 카카오 "AI 필터링 ′세이프봇′ 도입 후 욕설 댓글 60% 줄었다"

  • 구름많음동두천25.9℃
  • 맑음철원26.0℃
  • 구름많음충주25.9℃
  • 구름많음청송군24.0℃
  • 맑음목포27.9℃
  • 구름많음강화24.2℃
  • 맑음상주25.1℃
  • 맑음의령군25.0℃
  • 구름많음김해시27.4℃
  • 구름많음홍성25.8℃
  • 구름조금임실25.4℃
  • 구름조금영광군27.2℃
  • 구름많음부안26.0℃
  • 구름많음이천23.9℃
  • 구름조금서청주25.3℃
  • 구름조금창원26.6℃
  • 맑음진주24.3℃
  • 구름조금거제26.0℃
  • 맑음흑산도25.5℃
  • 구름많음원주25.3℃
  • 구름조금남원25.3℃
  • 맑음추풍령22.0℃
  • 구름조금속초23.5℃
  • 흐림태백17.6℃
  • 구름많음고창군25.7℃
  • 맑음함양군25.4℃
  • 구름많음문경24.0℃
  • 맑음산청26.1℃
  • 흐림부산26.4℃
  • 구름많음천안24.4℃
  • 구름조금울산24.7℃
  • 구름많음강릉24.8℃
  • 구름많음파주26.2℃
  • 흐림정선군23.9℃
  • 맑음순천26.3℃
  • 구름많음봉화23.2℃
  • 맑음완도29.0℃
  • 구름많음성산26.3℃
  • 구름많음울진24.7℃
  • 구름많음동해23.1℃
  • 구름많음부여25.7℃
  • 구름많음보령27.0℃
  • 구름조금포항24.8℃
  • 구름많음서귀포27.0℃
  • 구름많음북강릉23.0℃
  • 구름조금안동24.7℃
  • 구름많음의성26.1℃
  • 구름많음영덕23.6℃
  • 구름조금고창27.7℃
  • 맑음대전25.9℃
  • 구름조금광양시26.0℃
  • 맑음남해24.6℃
  • 구름많음인천25.6℃
  • 구름많음순창군25.4℃
  • 구름많음구미25.6℃
  • 구름조금인제24.4℃
  • 구름많음홍천25.3℃
  • 구름조금양평25.4℃
  • 구름조금통영26.7℃
  • 맑음진도군26.7℃
  • 구름많음울릉도22.3℃
  • 구름많음춘천25.6℃
  • 구름많음서산25.0℃
  • 맑음여수24.2℃
  • 구름조금북부산27.5℃
  • 흐림영주24.3℃
  • 구름많음전주27.8℃
  • 구름조금보성군26.8℃
  • 구름많음영천24.2℃
  • 구름조금보은23.7℃
  • 구름많음정읍27.7℃
  • 맑음강진군27.7℃
  • 구름많음수원23.7℃
  • 비제주25.7℃
  • 구름많음장수24.1℃
  • 맑음고산29.1℃
  • 맑음금산25.9℃
  • 구름조금세종26.1℃
  • 구름많음북창원26.9℃
  • 맑음고흥27.4℃
  • 구름많음경주시25.5℃
  • 맑음양산시27.7℃
  • 구름많음합천25.2℃
  • 흐림백령도22.5℃
  • 구름조금청주26.1℃
  • 구름많음영월24.9℃
  • 구름많음군산25.3℃
  • 맑음대구25.7℃
  • 구름조금밀양27.9℃
  • 맑음장흥27.1℃
  • 맑음광주26.6℃
  • 구름많음대관령17.9℃
  • 구름많음북춘천25.9℃
  • 구름많음서울25.7℃
  • 맑음해남27.9℃
  • 흐림제천24.4℃
  • 구름많음거창24.7℃
  • 2025.09.23 (화)

카카오 "AI 필터링 '세이프봇' 도입 후 욕설 댓글 60% 줄었다"

김지영 / 기사승인 : 2022-12-14 23:20:06
  • -
  • +
  • 인쇄

카카오가 AI 기반으로 댓글을 필터링하는 '세이프봇'의 성과 분석 결과를 14일 공개했다.

2020년 12월 도입된 세이프봇은 욕설, 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다. 욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다.

카카오에 따르면, 세이프봇 도입 후 욕설이나 비속어가 포함된 댓글과 이용자의 신고한 욕설 댓글 비중 등이 크게 줄어들었고 인터넷 댓글 문화의 건강성이 높아졌다. 세이프봇 적용 전인 2020년 하반기와 적용 이후인 2021년, 2022년 월평균 수치를 비교한 결과, 욕설이나 비속어가 포함된 댓글이 3분의 1 수준으로 줄었다.

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 또한 이용자의 신고에 의해 삭제된 욕설 댓글도 2021년 73.6%, 2022년 91.7% 감소하며, 12분의 1 수준으로 줄어들었다.

이는 세이프봇의 능동적 조치로 댓글 문화가 점차 성숙해진 결과라는 분석이다. 세이프봇이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링하면서 이용자들도 자발적으로 건전한 댓글 문화에 동참하게 된 것. 이에 따라 댓글 공론장의 건강성이 향상된 것으로 보인다.

카카오는 AI 기술을 고도화해 세이프봇의 성능을 더욱 강화하겠다는 방침이다. 지난 8월 증오발언 대응을 위한 '코딩북(Coding Book)' 제작에 나선 가운데, 증오발언을 판별하는 학습 데이터를 구축하고 내년 상반기에 이를 세이프봇에 적용한다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]

최신기사

뉴스댓글 >

- 띄어 쓰기를 포함하여 250자 이내로 써주세요.
- 건전한 토론문화를 위해, 타인에게 불쾌감을 주는 욕설/비방/허위/명예훼손/도배 등의 댓글은 표시가 제한됩니다.

댓글 0

Today

Hot Issue