[아이포럼 2021] 이상직 변호사 "AI 뒤에는 사람…윤리적 고민 수반돼야"

[아이뉴스24 윤선훈 기자] 향후 전개될 인공지능(AI) 사회를 대비해 AI가 가져다 줄 각종 윤리적 문제에 대해 고민해야 한다는 지적이 나왔다. 점차 고도화되고 있는 AI로 인한 다양한 변수를 예방하기 위해서는 결국 AI를 구축하고 활용하는 사람들의 윤리적 의식 함양이 필요하다는 것이다.

이상직 법무법인 태평양 파트너 변호사는 2일 서울 용산구 드래곤시티호텔에서 열린 '아이포럼 2021' 강연에서 "AI는 분명히 새로운 세상을 만들겠지만 그것이 반드시 좋은 세상이라는 보장은 없다"라며 "인간이 할 수 있는 가장 큰 악행을 AI가 더 고도화된 방식으로 범할 수 있으며 일자리를 빼앗거나 사생활을 침해하는 등 부작용도 발생할 수 있다"고 짚었다.

이와 함께 제기된 문제가 AI의 편향성에 대한 우려다. 자칫 편향되거나 차별적 내용이 들어간 데이터가 대량으로 수집될 경우 AI가 이를 토대로 한 알고리즘에 따라 잘못된 결과를 도출할 수 있다는 점에서다.

올해 초 AI 챗봇 '이루다'로 인해 AI의 윤리 문제에 대해 사회적으로 많은 갑론을박이 일었다. 일부 이용자들이 20대 초반 여성을 모티브로 삼은 '이루다'에게 성적인 답변을 유도하면서 논란이 됐고, 이루다가 성소수자·흑인 등에 대해 차별적 대답을 한다는 사실이 알려지기도 했다.

이 같은 상황이 벌어진 배경을 파악하던 도중 개발사인 스캐터랩 측에서 이용자의 동의를 받지 않고 불특정 다수의 카카오톡 메시지를 대량으로 수집했다는 사실이 드러나기도 했다. 결국 '이루다'는 20여일만에 서비스를 종료했다.

다만 이 변호사는 단순히 AI를 규제하는 등의 방식으로는 이 같은 문제를 해결할 수 없다고 지적했다. 애초에 알고리즘이란 수집된 데이터에 따라 결과를 도출하기 때문에, 결국 수집되는 데이터 등을 규범적으로 통제하는 것은 AI 알고리즘을 개발한 쪽의 책임이라는 것이다.

이 때문에 상황에 대해 맞춤형 규제를 펼치고, 업체들이 자율적으로 견제 수단을 마련해 자정작용을 유도해야 한다고 강조했다.

그리고 현재까지 이러한 자정작용이 제법 잘 이뤄지고 있다고 이 변호사는 바라봤다.

그는 "이루다가 문제가 되자마자 서비스는 중단됐고, 이후 과학기술정보방송통신부 등에서 윤리규정을 만들었으며 네이버·카카오 등도 자체 AI 윤리규정을 만들어 시행 중"이라며 "이러한 시장에서의 자정작용이 잘 되고 있으며 정부도 이에 힘을 보태는 모습"이라고 평가했다.

이 변호사는 이 같은 맥락에서 AI 자체에 법인격을 인정하기보다는 AI 기업들이 보다 면밀히 책임을 지도록 해야 한다고 주장했다.

그는 "우리는 AI에게 공정하라고 요구하지만 정작 (AI를 구축하는) 인간은 절대로 공정하지 않으며 그렇기에 우리가 AI에 대해서만 편향되지 말라고 요구할 수는 없다"라며 "다만 AI를 내세우더라도 AI 알고리즘을 만든 사람들이 법적으로 저절로 면책되지 않도록 요구할 수는 있다"고 짚었다.

이와 함께 고도화된 AI가 특정 기업이나 집단 등에 의해 독과점될 경우 AI로 인한 사회적 격차가 크게 발생할 수 있다는 점도 불안 요소로 꼽혔다.

이 변호사는 "AI는 많은 자본을 필요로 하며 자본력을 많이 가진 쪽이 AI 기술도 가져갈 것이고, 최고의 AI 시스템은 큰 기업이 독점하게 될 것"이라며 "자연히 그것을 가지지 못한 사람들도 나타날 것이며 이로 인해 'AI 디바이드(divide)'가 발생하는 것"이라고 지적했다.

그런 만큼 AI를 설계하고, 이를 주도적으로 활용하는 이용자들이 얼마나 AI와 관련해 윤리적인 부분을 고려하느냐가 중요할 수 있다는 설명이다. 이는 단순히 AI의 편향성에 대한 고려를 넘어 AI로 인해 나타날 수 있는 부정적 영향을 전반적으로 살피는 것이다.

이 변호사는 "AI 윤리 기준을 기업들이 다시 한 번 되새길 필요가 있다"며 "기본적으로 (AI로 인해 나타날 수 있는 부작용을) 조심하라는 취지만큼은 새겨야 한다"고 강조했다.

한편 아이뉴스24는 이날 서울 드래곤시티호텔 그랜드볼룸 한라홀에서 'AI 위드 휴먼(AI WITH HUMAN)'을 주제로 AI 기술의 현재를 살펴보고 미래 발전 방향을 제시하는 한편, 인간과 AI의 공존을 탐구해보는 '아이포럼 2021'을 개최했다.

민원기 과학기술협력대사 겸 한국뉴욕주립대 총장과 세계 최초의 AI 기구인 'OECD AI 전문가 그룹'의 일원인 마크 로텐버그(Marc Rotenberg) AI&디지털 정책 센터(Center for AI and Digital Policy)장의 특별 대담이 진행됐다.

이어 각 분야 전문가들이 ▲AI의 윤리 ▲산업 ▲증권·금융 ▲정보미디어 ▲보건의료 등 5개 세션을 주제로 AI 기술과 관련한 법적 규범과 제도적 장치, 인류와의 공존, 그리고 향후 변화까지 조망하는 심도 있는 주제강연이 이어졌다.