'이루다' 혐오발언 논란…"AI 리스크도 보험 들어야"

18일 보험연구원은 'AI 리스크와 전용보험의 필요성' 리포트를 통해 이와 같이 밝혔다.

최근 다양한 기업들이 AI 기술을 도입 및 활용하면서 긍정적 효과들이 부각되고 있지만 한편으로는 새로운 형태의 사고 발생으로 인한 AI 실패에 대한 우려도 나타고 있다.

미국 시장조사 기업 가트너가 전 세계 89개국 3천명의 CIO(최고정보관리책임자)를 대상으로 진행한 설문에 따르면 지난 4년간(2015~2019년) 'AI 기술을 활용하고 있다'고 응답한 기업의 수는 10%에서 37%로 증가했고, 구글, 제너럴모터스, 파이저 등 글로벌 기업의 91.5%가 'AI 기술에 지속적으로 투자하고 있다'고 응답했다.

김윤진 보험연구원 연구원은 "AI 기술 도입이 단기간에 급격하게 증가함에 따라 이전에는 예상할 수 없었던 AI 오작동 및 오류로 인한 새로운 종류의 사고들이 발생하기 시작하면서 AI 실패 우려가 제기되고 있다"고 말했다.

미국에서는 승차공유업체 우버의 자율주행차 알고리즘 오작동으로 보행자가 신체상해를 입고 사망한 사건이 발생했고, 마이크로소프트가 개발한 트윗봇 '테이(Tay)'의 인종차별 및 정치편향적 트윗 업로드로 브랜드 이미지가 훼손된 사례가 발생했다.

국내에서도 최근 스타트업이 개발한 챗봇 '이루다'가 잘못된 알고리즘 데이터 학습으로 인해 성차별 및 사회적 약자 혐오 발언을 해 논란이 되자 해당 서비스를 잠정 중단하는 사례가 있었다.

김 연구원은 "이처럼 AI 기술이 개인과 기업에 미칠 잠재적인 부정적 결과를 'AI 리스크'라고 정의할 수 있다"며 "현재 AI 리스크는 기술수행, 정보보안, 경제·사회, 윤리 등 여러 측면에서 이미 현실화되고 있고, 향후 기술 발전에 따라 더욱 다양한 형태로 진화될 것으로 예상된다"고 밝혔다.

그럼에도 기업들의 AI 리스크 인식과 대응수준은 낮은 것으로 평가되고 있어, 기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다는 지적이다.

그는 "상당수 글로벌 기업들은 AI를 활발하게 도입해 사용하고 있음에도 불구하고 그에 따르는 리스크를 명확하게 인지하지 못하고 있으며, 그 결과 AI 리스크에 대응하기 위한 준비가 결여된 것으로 보인다"고 말했다.

우리나라 국회입법조사처 또한 AI 알고리즘 사전설계 및 사후 감독체계에서 의도하지 않았던 위험이 발생한 경우 피해보상 혹은 누구에게도 책임을 돌릴 수 없는 손해의 배상을 위한 보험제도 도입을 검토해 볼 필요가 있다고 주장한 바 있다.

현재 판매되고 있는 사이버 보험의 경우 AI 리스크 중 데이터 및 보안 관련 위험만을 보장할 뿐 AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실은 보장받을 수 없어 AI 전용보험의 개발이 중요한 상황이다.

현재 국내외 일부 보험사에서 AI 관련 보험이 개발되고 있지만 이들 보험은 AI 리스크 중 일부만을 보장한다. 국내의 경우 에이스손해보험의 '첨단기술 배상책임보험'은 AI를 포함한 다양한 첨단기술로 인해 초래되는 제품·서비스 실패에 대한 기술 배상책임과 영업·생산물 배상책임 등을 담보로 구성해 유·무형의 위험을 보장하고 있다.

김 연구원은 "기업의 AI 기술 도입이 초기에 불과하기 때문에 AI 리스크 관련 사고빈도 및 심도 데이터가 충분하지 않아 전용보험 개발에는 시간이 필요할 것으로 보인다"며 "AI 산업의 급속한 확장으로 인한 리스크 보장 수요에 대응해 AI 전용보험의 보장 범위를 단계적으로 확대할 필요가 있다"고 주장했다.

보험사 자체적으로도 AI 리스크를 대비해야 한다고 지적했다.

그는 "국내 보험사들도 AI 챗봇을 고객상담에 활용하고 보험사기 예방을 위해 AI 기술을 적용하는 등 다양한 분야에서 AI 기술 도입이 증가하고 있다"며 "AI 기술 활용 증가는 보험사 자체의 AI 리스크를 확대할 수 있기 때문에 보험사의 자체적인 AI 리스크 관리 방안을 마련할 필요가 있다"고 마무리했다.