"편향된 AI, AI로 잡는다"…IBM, 연내 'AI 오픈스케일' 공개

[아이뉴스24 성지은 기자] 인공지능(AI) 기술이 도입되면서 신속한 의사결정이 가능해지고 있지만, 역기능으로 AI에 의한 편견이 사회적 문제로 대두되고 있다.

최근 인사채용 과정에서 여성차별을 해 퇴출당한 아마존의 AI 도구가 대표적인 사례다. 이 가운데 IBM이 AI에 의한 편견을 점검하고 개선할 수 있는 기술을 내놔 눈길을 끈다.

IBM은 편향된 데이터에 근거해 치우친 결과를 검증하고 바로잡을 수 있는 개방형 기술 플랫폼 'AI 오픈스케일'을 업계 최초로 선보인다고 19일 발표했다. AI 오픈 스케일은 올해 말 IBM 클라우드(퍼블릭·프라이빗)를 통해 제공될 예정이다.

최근 사회 곳곳에서 AI 기술을 접목하는 시도가 늘고 있지만, AI가 도출하는 의사결정 과정을 투명하게 확인할 수 없어 문제가 되고 있다. 2015년 구글이 출시한 이미지 사진 앱은 흑인 남성을 고릴라로 인식하는 등 사회적 편견이 AI 알고리즘에 그대로 녹아들어 논란을 빚기도 했다.

IBM에 따르면, AI 오픈스케일은 이같이 AI 알고리즘이 가진 편향성을 탐지하고 신속하게 대응할 수 있도록 한다. AI가 도출한 과정을 이해하기 쉬운 용어로 설명해 의사결정 과정에 대한 이해를 돕고, 자동화된 편향 제거 기술로 AI 애플리케이션을 모니터링한다. 또 기업이 유럽연합 일반개인정보보호법(EU GDPR) 등 법률을 준수할 수 있도록 모든 예측과 모델, 트레이닝 데이터 등에 관한 기록을 보전한다.

최안나 한국IBM 왓슨사업부 기술영업팀장은 "보험사가 AI를 청구 시스템에 적용하려고 파일럿 모델을 만들어도 실제 적용에는 어려움이 따르는데, AI 오픈스케일은 특정 데이터가 왜곡된 결과를 내지 않는지, 왜 그런 결과를 가져오는지 설명할 수 있는 기능을 탑재하고 AI를 모니터링을 할 수 있다"고 설명했다.

IBM은 심층신경망(DNN)을 자동 구축하는 '뉴넷S' 신경망 합성엔진을 연내 AI 오픈스케일 내에 제공할 계획이다. DNN은 심층학습(딥러닝) 알고리즘 중 하나다.

'AI를 구축하는 AI'로 불리는 뉴넷S는 AI 개발을 자동화하는 핵심 기술로, 기업은 특정 데이터세트에 대한 맞춤형 AI 모델을 빠르게 편하게 설계해 학습시킬 수 있다. 즉, 자체 기술이 없는 기업도 뉴넷S를 이용해 AI를 신속하게 도입하고 간편하게 운용할 수 있다는 게 회사 측 설명이다.

IBM 기업가치 연구소가 전 세계 5천명의 기업 임원을 대상으로 설문조사를 실시한 결과, 응답 기업의 82%가 AI 도입을 검토했다. 그러나 기업들은 'AI를 확실하게 운용할 수 있는 내부 인력이 부족하다(63%)', 'AI에 활용되는 데이터에 대해 신뢰할 수 없고, 기업 내·외부 여러 규제를 파악하지 못하는 우려가 있다(60%)'고 답했다.

데이비드 케니 IBM 코그너티브 솔루션 담당 수석부사장은 "IBM은 고객이 다양한 머신러닝에서 개발된 AI 애플리케이션을 운용할 수 있도록 지원하는 동시에 투명하고 손쉽게 관리할 수 있도록 최선을 다하고 있다"며 "기업이 AI를 신뢰하고 적용 분야를 확장할 수 있을 때 비로소 AI 경제를 구현할 수 있다"고 말했다.