네이버, 실시간 음란물 필터링 기술 '클로바 그린아이' 외부 공개

[아이뉴스24 정유림 기자] 네이버가 실시간 음란물 필터링 시스템 '엑스아이(X-eye) 2.0'를 '클로바 그린아이(CLOVA GreenEye)'로 재단장하고 오픈 API 형태로 외부에 개방한다.

'엑스아이'는 네이버가 2017년 출시한 24시간 실시간 음란 이미지 필터링 기술이다. 네이버에 축적된 이미지 수백만장을 학습해 부적절한 이미지나 동영상(음란물)이 네이버에 등록될 경우 AI 기술이 이를 실시간으로 감지해 검색 노출을 차단한다.

2021년에는 '엑스아이 2.0'으로 시스템을 업그레이드, 정상·음란·성인·선정으로 콘텐츠를 세분화해 분류하도록 했다. 렉스넷(ReXNet), 컷믹스(CutMix) 등 네이버의 다양한 이미지 인식 선행 연구 결과를 적용해 정확도를 99.5%까지 개선했다.

재단장한 '클로바 그린아이'를 통해 전송된 모든 이미지는 이미지 단위로 검사하고 유해 콘텐츠 등급에 따라 검사 결과값(정상·음란·성인·선정)을 반환한다. 네이버 클라우드 플랫폼 홈페이지에서 사용 신청할 수 있고 베타 서비스 단계에선 신청 후 승인된 사용자에 한해 서비스를 제공하고 있다.

이번 '클로바 그린아이' 출시로 스타트업 및 중소 기업에서도 유해 콘텐츠 탐지를 손쉽게 자동화하고 수작업 검수를 최소화할 수 있을 것이란 기대다.

네이버의 서비스 운영 업무를 총괄하는 이정규 책임리더는 "앞으로도 AI 모델을 고도화하고 데이터를 최신화해 유해 콘텐츠 감지 영역을 확대해 나갈 것"이라고 했다.