알고리즘에 의한 차별? "지능정보사회, 피해도 지능화"

[아이뉴스24 성지은기자] 산업사회에서 지능정보사회로 변화하고 있는 현재, 시대 변화에 걸맞는 새로운 이용자 보호 제도가 필요하다는 지적이 나왔다.

6일 변재일 의원실 주최로 국회 의원회관에서 '지능정보사회에서의 이용자 보호 이슈와 정책방향 학술세미나'가 열렸다.

이날 변재일 의원은 "그동안은 산업사회 속 정보통신기술(ICT) 이용자를 보호하는 내용을 다뤄왔지만, 지능정보사회로 전환되고 있는 만큼 새로운 보호 방식이 필요하다"고 말했다.

지능정보사회란 초연결, 초지능을 기반으로 하는 새로운 정보사회를 말한다. 고도화된 ICT 인프라를 통해 생성·수집·축적된 데이터와 인공지능(AI)이 결합된 기술이 사회 모든 분야에 적용되고, 새로운 가치가 창출될 것으로 예상된다. 또 사회 전반의 효율성과 편의성이 제고될 것으로 기대된다.

그러나 한편으론 개인정보 침해, 정보 격차 심화, 새로운 서비스를 둘러싼 분쟁 증가와 같은 역기능도 늘어날 것으로 전망된다.

고삼석 방송통신위원회 상임위원장은 "지능정보사회에서는 불공정 알고리즘으로 인한 이용자 피해가 발생할 수 있다"며 "한 연구에 따르면 구글 온라인 광고시스템이 여성보다 남성에게 높은 임금의 직업을 추천하고 있는 것으로 나타났는데, 앞으로 알고리즘으로 인한 차별과 피해가 현실화될 가능성이 있다"고 우려했다.

이어 "더 큰 문제는 개개인이 이러한 피해를 인지하지 못하고 피해에 대해 보호받지 못하는 것"이라며 "이제부터라도 역기능을 줄이고 이용자 권익을 강화하는 논의가 필요하다"고 강조했다.

◆지능정보사회, 이용자 관점의 피해절차 개선 등 마련돼야

이날 세미나에서는 '원스톱 민원처리 체계 구축' 등 이용자 피해절차 간소화를 위한 방안 마련이 필요하다는 의견이 나왔다.

최경진 가천대 교수는 "지능정보사회에서는 다양한 이슈가 결합되는데, 각각의 규제가 시장에서는 효율적으로 작동할 수 있으나 이용자 보호에는 효과적이지 못하다"며 "여러 가지 법이 있어도 이용자 보호 절차는 하나로 통일해 원스톱으로 처리하는 방안이 필요하다"고 말했다.

가령 민원 제기 이후 AI를 활용해 자동화된 민원 해결 시스템으로 처리 과정을 개선하거나, ICT 관련 민원 창구를 일원화하는 개선 방안이 필요하다는 설명이다.

AI 알고리즘이 가져올 불확실성, 역기능을 개선하기 위해 다양한 관점에서 고찰하고 개선해야 한다는 주장도 나왔다.

황용석 건국대 교수는 "지능정보사회에서는 추천 소프트웨어 시스템에 의존하는 '알고리즘 매개사회'의 성격이 짙어지지만, 딥러닝을 통해 스스로 알고리즘을 변화시켜나가는 AI 알고리즘은 그 과정을 알 수 없는 '블랙박스'와 같다"며 "의사결정 과정을 알 수 없어 불확실성을 높이는 경향이 있다"고 설명했다.

이어 "가령 구글에 '왜 흑인은(Why are black)'이라고 검색하면 '왜 흑인은 시끄러운가(Why are black so loud)' 같은 편향된 자동연관 검색어를 추천하기도 해 편견을 확산한다"며 "이같은 문제를 개선하기 위한 고찰이 필요하고, 공익적 가치가 구현되는 알고리즘 디자인도 어느 정도 필요하다"고 말했다.

지능정보사회에 맞는 새로운 프라이버시 관념, 규제 개선이 함께 이뤄져야 한단 의견도 제시됐다.

심우민 국회입법조사처 박사는 "익명성을 가지는 정보의 경우도 AI를 통한 데이터 분석을 통해 언제든 재식별화될 가능성을 가진다"며 "향후 프라이버시 보호는 식별성을 전제로 한 개인정보뿐만 아니라 식별성이 전제되지 않은 프라이버시까지 고려하게 되는 방향으로 나아갈 것"이라고 전망했다.

이어 "식별 가능 여부를 기준으로 한 획일화된 개인정보 규정과 그에 따른 일률적 규제가 아니라, 실질적으로 위험이 있는 곳에 규제가 가해지는 실질적 위험 기반 규제로 나아가야 한다"고 부연했다.

이성웅 한국IBM 상무는 "프라이버시는 인간의 존엄성을 위해 존재하는 건데 의료데이터 규제 같은 프라이버시 규제는 오히려 정확한 치료는 물론, 궁극적으로 인간의 존엄성인 생명을 저해할 우려가 있다"며 "환자에 대한 정확한 진단과 치료를 위해 이러한 문제를 개선해야 한다"고 강조했다.