AI의 미묘한 연령 편향…"노인, 따뜻한데 역량 낮다"

[아이뉴스24 정종오 기자] 생성형 인공지능(AI)이 미묘한 연령 편향을 보이는 것으로 나타났다. 노인에 대해 ‘따뜻하고 지혜롭고 자애롭다’고 묘사했는데 주체성과 역량 부분에서는 낮다는 인식을 드러냈다. 학습 데이터에 포함된 사회적 편견을 재생산할 수 있다는 우려가 제기됐다.

한국과학기술원(KAIST, 총장 이광형) 과학기술정책대학원 최문정 교수 연구팀이 생성형 인공지능 모델인 오픈AI(OpenAI)의 챗GPT-4o가 생성하는 문장 속에 노인에 대한 미묘한 고정관념이 내재돼 있음을 정량적으로 분석했다.

생성형 인공지능은 일상 속 정보 탐색과 의사결정 과정에 폭넓게 활용되고 있다. 학습 데이터에 포함된 사회적 편견을 재생산할 수 있다는 우려도 제기돼 왔다. 기존 연구들이 주로 성별이나 인종 관련 편향에 집중해 왔다.

홍완 박사과정 연구원이 제1저자로 수행한 이번 연구는 전 세계적 인구 고령화 속에서 중요성이 커지고 있는 연령차별(Ageism, 나이를 이유로 특정 집단을 차별하거나 부정적으로 인식하는 현상) 문제를 인공지능의 관점에서 분석했다는 점에서 의미가 있다.

연구팀은 10세부터 90세까지 10세 단위 연령대의 특성을 묘사하도록 하는 중립적 프롬프트를 활용해 GPT-4o가 생성한 텍스트 900개를 수집했다. 이후 사회심리학 분야의 대표 이론인 고정관념 내용 모델(Stereotype Content Model, SCM, 사람이나 집단에 대한 인식을 ‘따뜻함’과 ‘역량’ 두 차원으로 설명하는 이론)을 적용해 분석했다.

분석 결과 고령자 집단(60세 이상)은 ‘따뜻함(Warmth·친절함과 신뢰성, 배려심 등 사회적 호감도를 나타내는 특성)’ 점수는 높게 나타났다. ‘역량(Competence·능력과 전문성, 효율성 등을 의미하는 특성)’점수는 젊은 연령층보다 상대적으로 낮게 나타나는 경향이 확인됐다.

생성된 응답에서는 인간의 생애 주기가 청년층(10~20대), 중년층(30~50대), 노년층(60대 이상)의 세 집단으로 구분돼 표현되는 경향이 나타났다. 70대 이상 고령층에 대해서는 비교적 획일적 특성 묘사가 반복적으로 나타났다.

연구팀은 자신감과 주도성을 나타내는 ‘자기주장성(Assertiveness, 자신의 의견을 적극적으로 표현하고 주도적으로 행동하는 성향)’에도 주목했다. 분석 결과 자기주장성을 나타내는 표현의 빈도는 나이가 커질수록 감소하는 경향을 보였다. 이는 챗GPT-4o가 노인을 지혜롭고 자애로운 인물로 묘사하는 동시에 주체성이나 능동성은 상대적으로 낮게 표현하는 경향이 있음을 시사한다.

이번 연구는 생성형 인공지능에 내재된 미묘한 편향을 사회과학 이론과 전산 분석 기법을 결합해 정량적으로 규명했다는 점에서 의미가 있다. 연구 결과는 생성형 인공지능이 노인을 ‘따뜻한데 역량은 상대적으로 낮은(warm but less competent)’ 집단으로 묘사하는 경향을 보여주며 이는 대중매체에서 반복적으로 나타나는 전형적 노인 고정관념과 비슷한 양상이다.

연구팀은 이러한 표현이 대화형 인공지능 서비스를 통해 반복적으로 노출될 경우 고령자에 대한 사회적 편견을 강화할 수 있다고 설명했다. 나아가 이러한 현상이 고령층의 디지털 참여를 떨어트리는 ‘디지털 연령차별(Digital Ageism, 디지털 기술과 서비스 이용 과정에서 발생하는 연령 기반 차별)’로 이어질 가능성도 제기했다.

최문정 교수는 “AI의 편향은 기술의 문제가 아니라 사회의 문제”라며 “포용적 인공지능을 위해 다양한 세대가 개발 과정에 참여해야 한다”고 말했다.

이번 연구는 과학기술정책대학원 박사과정 홍완 학생이 제1저자로 참여했다. 연구 결과(논문명: An Exploratory Semantic Analysis of Age-Related Stereotypes in OpenAI's GPT-4o Model)는 노년학 분야의 국제 학술지인 ‘더 제론톨로지스트(The Gerontologist)’에 실렸다.