문화콘텐츠 플랫폼 예스24가 AI로 부적절한 혐오 표현을 자동 감지해 필터링하는 ‘클린봇’ 서비스를 도입했다.
예스24, AI로 부적절한 표현 필터링하는 ‘클린봇’ 도입
예스24가 새롭게 도입하는 ‘클린봇’은 도서와 직접적인 관련이 없는 작가·책에 대한 혐오 표현을 AI가 스스로 감지하고 필터링하는 것이 특징이다. 예스24는 해당 서비스를 서점 업계 최초로 도입해, 도서를 탐색하고 구매하려는 독자들에게 보다 건전한 정보를 제공할 전망이다.
‘클린봇’ 활성화 시, 도서 상세페이지 하단의 ‘한줄평’ 및 작가 페이지의 ‘작가에게 한마디’에 포함된 부적절한 표현을 자동으로 감지해 해당 글을 숨김 처리한다. 필요에 따라 클린봇 기능을 켜거나 끌 수 있어 숨김 처리된 글도 눈으로 직접 확인할 수 있다.
이번 서비스에는 20여 년간 풍부하게 축적된 예스24의 도서 리뷰 및 한줄평 데이터가 활용됐다. 이를 기반으로 AI가 문장의 맥락을 분석해 직접적인 욕설이나 비속어 외에도 폭력적, 차별적 용어 등 불쾌감을 조성하는 여러 표현을 차단하고 필터링한다.
2024년 기준 약 150만 건의 한줄평이 예스24에 등록되는 등 활발한 상품 후기 활동이 이어지는 만큼, 클린봇 도입이 보다 건강한 소통 환경 조성에 기여할 것으로 기대된다.
예스24 유서영 커뮤니티팀 팀장은 “이번 클린봇 서비스는 도서나 작가와 관계없는 무분별한 혐오 표현으로 인해 도서 탐색 과정에서 생길 수 있는 피로감을 줄이기 위해 도입됐다”며 “앞으로도 예스24는 정확하고 건전한 정보를 제공해 고객들의 편안한 독서 활동에 도움이 될 수 있도록 지속적으로 노력해 나가겠다”고 말했다.
유설
기자
많이 본 뉴스
최신 뉴스
- 장생포 고래를 품다…장생 아트플렉스 설계공모 '웨일 프레임' 당선
- 해수부, 연안크루즈 체험단 18팀 모집…부산~제주 3박 4일 일정
- 포천시, '2025년 에너지자립마을 조성사업' 협약 체결
- 주광덕 남양주시장, 도농고 진로 특강서 '꿈과 희망의 메시지' 전달
- 2025년 4월 수출 582억 달러…3개월 연속 증가세 이어가
- 2025년 1분기 기업 무역실적, 대기업 중심 수출입 감소세
- 대변화 시작…신길2구역, 도심 공공주택 복합사업으로 명품 주거지 탈바꿈
- 2025년 4월 수출입 운송비용, 항로 따라 혼조세 보여
- 군포시, 주거취약계층 주거상향 지원사업 찾아가는 이동상담소 본격 운영
- 경기도의료원, 간호간병통합서비스로 보호자 없는 안심 병동 서비스 제공