개인정보위, AI 이루다 '스캐터랩' 1억330만원 과징금 '철퇴'

[아이뉴스24 최은정 기자] 개인정보 보호 조치가 미흡했던 인공지능(AI) 챗봇 '이루다' 개발사 스캐터랩에 총 1억330만원에 이르는 과징금, 과태료가 부과됐다.

개인정보보호위원회(위원장 윤종인)는 28일 제7회 전체회의를 열고 이루다 개발사인 스캐터랩에 총 1억330만원의 과징금과 과태료 등을 부과했다고 발표했다. 이는 AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례다.

이번 선례로 기업이 특정 서비스를 목적으로 수집한 개인정보를 사용자의 명시적 동의 없이 다른 서비스를 위해 이용하는 것을 제한, AI 개발과 서비스 제공 시 올바른 개인정보 처리 방향을 제시할 수 있을 것이란 기대다. 앞서 개인정보위는 지난 1월 12일 관련 조사에 착수하고 산업계, 법·학계, 시민단체 의견을 수렴하고, 수 차례의 위원회 논의 과정을 거쳐 이번 행정처분을 의결했다.

개인정보위 조사 결과, 스캐터랩은 자사 애플리케이션 서비스인 '텍스트앳'과 '연애의 과학'에서 수집한 카카오톡 대화 내용을 지난해 2월부터 지난 1월까지 페이스북 이용자 대상의 챗봇 서비스인 이루다의 AI 개발·운영에 이용한 것으로 확인됐다.

또 스캐터랩은 이루다 개발을 위한 알고리즘 학습 과정에서 카카오톡 대화에 포함된 이름, 핸드폰 번호, 주소 등의 개인정보를 삭제하거나 암호화하는 등의 정보보호 조치를 하지 않은 것으로 조사됐다. 회사는 약 60만명 이용자의 카카오톡 대화 문장 94억여건이 이용했으며, 이루다 운영 과정에서 20대 여성의 카카오톡 대화 문장 약 1억건을 응답 데이터베이스(DB)로 구축한 것으로 나타났다. 이루다는 해당 DB의 문장 중 한 문장을 선택해 발화할 수 있도록 운영돼왔다.

이에 개인정보위는 텍스트앳·연애의 과학 개인정보 처리 방침에 '신규 서비스 개발'을 포함시켰다. 이용자가 서비스에 로그인함으로써 정보 제공에 동의했다고 간주하는 것만으로는 이용자가 자신의 정보가 신규 서비스 개발 목적으로 활용되는 것에 동의했다고 보기 어렵다고 본 것이다.

또 '신규 서비스 개발'이라는 문구 기재만으로 이용자가 이루다 개발·운영에 카카오톡 대화가 이용될 것에 대해 예상하기 어렵고, 이용자의 개인정보 자기결정권이 제한되는 등 이용자가 예측할 수 없는 손해를 입을 우려가 있다고 봤다. 이러한 이유에서 개인정보위는 스캐터랩이 이용자의 개인정보를 수집한 목적을 벗어나 이용한 것이라고 판단했다.

더불어 개인정보위는 스커터랩이 코드공유·협업 사이트인 깃허브에 카카오톡 대화 내용이 포함된 AI 모델을 게시한 것과 관련 개인정보 보호법을 위반했다고 밝혔다. 스캐터랩은 깃허브에 2019년 10월부터 지난 1월까지 이름 22건(성은 미포함)과 지명정보(구·동 단위) 34건, 성별, 대화 상대방과의 관계(친구·연인) 등이 포함된 카카오톡 대화 문장 1천431건과 함께 AI 모델을 게시했다. 가명정보를 불특정 다수에게 제공해 '특정 개인을 알아보기 위해 사용될 수 있는 정보'를 포함했다는 점에서 개인정보 보호법 제28조의2제2항을 위반한 것이라고 판단했다.

아울러 개인정보위는 이번 조사 과정에서 정보주체가 명확히 인지할 수 있도록 알리고 동의를 받지 않은 사실 등 추가 위반사실을 확인했으며 총 8가지 개인정보 보호법 위반 행위에 대해 스캐터랩에 총 1억330만원의 과징금과 과태료를 부과하고 시정조치를 명령했다.

윤종인 개인정보위 위원장은 "이루다 사건은 전문가들 간 의견이 일치하지 않아 그 어느 때보다도 격렬한 논쟁이 있었고, 매우 신중한 검토를 거쳐 결정됐다"며 "기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다"고 말했다.

이어 "본 건에 대한 처분 결과가 AI 기술 기업이 개인정보를 이용할 때에 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고, 기업이 스스로 관리·감독을 강화해 나가는 계기가 되기를 바란다"고 덧붙였다.

한편, 개인정보위는 AI 기술 기업이 스스로 개인정보 보호 역량을 높일 수 있도록 AI 개발자나 운영자가 현장에서 활용 가능한 'AI 서비스의 개인정보보호 자율점검표'를 발표하고 현장 컨설팅을 지원할 계획이다. 이를 통해 해당 기업들이 국민의 개인정보를 보호하면서 AI·데이터 기반 산업을 발전시킬 수 있도록 지원한다는 방침이다.