[ICTF 2023] KT "고객센터에 초거대 AI 적용…업무 효율 개선"

[아이뉴스24 안세준 기자] "KT는 초거대 AI(인공지능)인 '라지 AI'를 이용한 서비스로 다양한 업무에서 실질적인 성과를 내고 있다. 대표적으로 고객센터에서는 라지 AI가 상담사와 고객의 통화 내용을 정리한다. 이를 통해 상담사의 업무 부담을 크게 줄여줄 뿐 아니라 상당사별로 통화 내용 정리의 편차가 발생하는 문제도 해소되고 있다."

장두성 KT융합기술원 라지 AI 코어 담당 상무는 24일 오후 2시 서울시 중구 페럼타워에서 '초거대 AI 시대: 챗GPT와 미래 세상'을 주제로 열린 '2023 아이뉴스24 ICT 포럼(ICTF 2023)'에 참석해 이같이 말했다. 이날 장 상무는 '모든 곳에 적용되는 초거대 AI(Large AI To Everywhere)'를 주제로 발표했다.

◆"KT고객센터, 초거대 AI 상담·요약내용 80% 활용…20%는 수정작업 필요"

장두성 상무는 "KT는 기가지니, AI컨택센터(AICC) 등 기존의 AI가 적용되던 많은 부분을 초거대 AI 기반 기술로 전환하고 있다"며 KT콜센터(100번)의 상담사 지원 시스템에 적용된 상담요약 기술을 소개했다.

기존에는 상담사가 고객과의 통화를 정리하고 이 정리된 자료를 토대로 상품이나 서비스 수요를 판단해왔는데, 이 업무를 '라지AI'가 맡아 처리하면서 통화 정리 자료의 품질이 크게 개선됐다는 것이다. 장 상무는 "상담사들의 만족도도 좋다"며 상담사들의 실제 반응을 소개했다.

"이전에는 고객과의 상담에 어려움을 겪는 경우가 많았다. 초거대 AI가 요약한 상담 내용을 봤는데 내가 하는 것보다 더 잘한 것 같다. 초거대 AI가 업무 일부를 대신 처리해주면서 상담 요약 시간이 확연하게 줄어들었다"(이경철 KT고객센터 컨설턴트)

장 상무에 따르면 KT고객센터는 초거대 AI가 상담·요약한 내용의 80%를 활용하고 있다. 20%는 수정 과정을 거친다. 장 상무는 "고객의 문의사항이 무엇이고, 사용자(고객)가 어떻게 반응했는지를 분석하는 등의 기술이 실제 적용이 되고 있다"며 "고객센터 등 AI 기술 적용을 통해 후처리 시간이 줄어들 수 있도록 노력할 것"이라고 말했다.

◆불과 500개 상담 분류에 데이터 33만건 활용…왜?

KT는 콜센터 상담사 지원을 위해 500개 정도로 상담 내용을 분류했다. 이 과정에서 약 33만 건의 AI 데이터가 활용됐다. 불과 500개 상담을 분류하는데 데이터가 33만개나 필요했던 이유는 무엇일까. 장 상무는 유·초·중등 교육과정에 비유했다.

장 상무는 "유치원생들은 많은 책을 읽어보면서 단어와 단어의 차이를 배우는데 특정 단어 다음에 어떤 단어가 와야 될지를 배우는 것"이라며 "반면 중학생쯤 되고 나면 더 이상 단어를 묻지 않는다. 그 순간부터는 1만 개 정도의 데이터 만으로도 상담이 가능해지는 것"이라고 설명했다.

그는 "이전의 AI가 유치원생에게 상담사 기술을 교육할 때였다면 초거대 AI가 된 이후에는 중학생에게 상담사 기술을 교육하는 개념"이라고 덧붙였다.

장 상무는 초거대 AI의 개념이 이전과는 크게 달라진 것으로 본다. 새로운 세대에 가깝다는 것이다. 그는 "초거대 AI라는 말이 처음 나왔을 때와 지금의 개념은 다르다. 개인적으로는 새로운 제너레이션(세대)에 가깝다고 본다"며 "가장 중요한 것은 멀티태스크 인스트럭처 튜닝일 것"이라고 말했다.