[일문일답] "AI 토큰 사용이 부담된다면?"⋯25% 절약, KT '토큰팩토리' 뭐길래

[아이뉴스24 안세준 기자] KT는 오픈AI GPT-6 아스트라, KT 믿음 K 3.0 프로, 업스테이지 솔라 프로4 등 국내외 AI 모델을 하나의 플랫폼에서 이용할 수 있는 'KT 토큰팩토리'를 오는 30일 출시한다. 업무 목적에 맞는 AI 모델을 자동으로 선택하고 AI 토큰 사용량을 최적화하는 데 초점을 둔 플랫폼이다. 500여 종의 국내외 AI 모델을 연결해 기업 AI 도입과 운영을 지원할 방침이다.

KT는 27일 서울 종로구 KT광화문 웨스트빌딩에서 기자간담회를 열고 KT 토큰팩토리의 주요 기능과 취지, 요금 체계, 사업 확대 계획 등을 발표했다.

KT 토큰팩토리는 업무 목적에 맞는 AI 모델을 자동으로 선택하고 토큰 사용량을 최적화하는 플랫폼이다. KT는 자체 개발한 모델 라우팅과 프롬프트 압축 기술을 통해 AI 이용에 필요한 토큰 사용을 최대 25% 절감한다고 설명했다.

토큰팩토리는 해외 AI 서비스 의존에 따른 데이터 주권 우려를 줄이기 위해 한국 내 KT 데이터센터에서 AI 추론 서비스를 제공한다. 국내에서 운영되는 소버린 AI 인프라 기반 위에서 KT 자체 모델과 국내외 오픈웨이트 모델, 독자 AI 파운데이션 모델 등을 활용할 수 있도록 멀티 AI 기반을 구축했다.

이날 간담회에는 박상원 KT AX사업부문장과 이진형 AX사업본부장, 원만호 AX플랫폼본부장, 김준석 에이전틱 AI랩장 등이 참석했다. 이날 주요 발표 내용을 일문일답 형태로 정리했다.

-KT가 토큰팩토리를 선보인 이유는 무엇인가.

(박상원 KT AX사업부문장) "기업이 AI를 실질적인 성과로 어떻게 전환하는지가 중요한 화두가 됐다. 하지만 기업들이 막상 (AI 전환을) 실행하려니 막막한 부분들이 있는 것 같다. 이런 부분을 해소하기 위해 실행 효율, 신뢰 세 가지 키워드를 충족하는 토큰팩토리를 선보이게 됐다."

-KT 토큰팩토리에서는 어떤 AI 모델을 이용할 수 있나?

"오픈AI의 GPT-6 아스트라를 비롯해 xAI의 그록4, 메타의 라마4, 딥시크 v4 등 500여 종의 글로벌 AI 모델을 연동해 활용할 수 있다. 국산 모델 3종(KT 믿음 K 3.0 프로·업스테이지 솔라 프로4·모티프테크놀로지스 모티프 3)과 오픈소스 모델 4종(구글 젬마 4 31B·엔비디아 네모트론 3 울트라·문샷AI 키미 K3·Z.AI GLM-5.3)도 제공한다."

-언제 출시하며 이용 대상은 누구인가.

(이 본부장) "오는 30일 기업 고객을 대상으로 출시한다. 초기에는 73개 AI 모델을 제공하고 11월 오픈라우터와 연계해 500개 이상의 모델로 확대한다. 12월에는 기능을 고도화하고 내년 3월 개인 개발자와 일반 개인에게도 서비스를 개방할 예정이다."

-요금제는 어떻게 구성되나.

(이 본부장) '스탠다드'와 '엔터프라이즈' 두 가지다. 스탠다드는 실제 사용량에 따라 요금을 부과하며 후불 정산과 선불 크레딧을 지원한다. 엔터프라이즈는 기업의 이용 규모와 약정 기간에 따라 할인 혜택을 제공한다. 전용회선과 서비스수준협약(SLA) 등 기업 맞춤형 기능도 제공할 예정이다. 개인 대상 구독형 요금제는 2027년 3월 출시를 계획하고 있다."

-KT는 토큰팩토리를 통해 토큰 비용이 최대 25% 절감된다고 밝혔다. 근거는 무엇인가.

(김준석 KT 에이전틱 AI랩장) "크게 두 가지 기술을 적용했다. 프롬프트에서 불필요한 내용을 제거해 입력 토큰 수를 줄이는 방식으로 약 20%를 절감한다. 나머지 5%는 해당 업무를 처리할 수 있는 가장 저렴한 AI 모델을 자동 선택하는 라우팅 기술에서 나온다. 두 기술을 합쳐 최대 25%의 절감 효과를 확인했다."

-기존 AI 모델을 직접 이용하는 것보다 저렴한가.

(이 본부장) "KT가 국내 데이터센터에서 직접 추론하는 7개 모델은 개별적으로 이용하는 것보다 저렴하게 제공할 계획이다. 엔터프라이즈 고객에게는 이용 규모 등에 따른 별도 할인이 적용된다."

-보안은 어떻게 확보하나.

(원만호 KT AX플랫폼본부장) "KT가 자체 개발한 가드레일 기술을 적용한다. 개인정보나 민감정보, 유해 표현 등을 탐지하고 차단하는 방식이다. 고객은 특정 모델이나 IP 대역의 접근을 제한할 수 있다. 입력 프롬프트는 기본적으로 저장하지 않지만 기업이 내부 감사 등을 위해 필요한 경우 선택적으로 저장할 수 있도록 지원한다."

-기존 AI 모델 유통 사업과 차별점은 무엇인가.

(이 본부장) "단순히 외부 AI 모델을 중개하는 데 그치지 않고 KT가 국내 인프라에서 직접 모델을 구동한다는 점이다. 여기에 모델 자동 선택과 토큰 최적화, 통합 과금 기술을 결합했다. 기업 전용회선이나 프라이빗 클라우드 등 기존 KT 서비스와도 연계할 계획이다."

-금융·공공 분야에도 공급할 수 있나.

(이 본부장) "국내 데이터센터에서 직접 구동하는 모델을 중심으로 금융권 공급을 추진한다. 공공 분야에서는 관련 보안 규제와 가이드라인에 맞춰 별도 클라우드 환경에서 서비스를 제공한다."

-KT는 토큰팩토리로 어떻게 수익을 낼 계획인가.

(이 본부장) "핵심 수익원은 KT가 자체 데이터센터와 GPU를 활용해 AI 추론 서비스를 제공하는 과정에서 발생하는 수익이다. 외부 모델 중개 수수료에만 의존하지 않고 전용회선, 프라이빗 클라우드, 기업 AX 구축 사업 등과 연계해 수익을 확대할 계획이다."

-구체적인 매출 목표는. 확보 고객은 얼마나 되나.

(이 본부장) "2028년 매출 목표를 공개하기에는 아직 이른 시점이다. 현재 일부 기업과 출시 전 서비스를 준비하고 있다. 실제 이용 현황 등을 확인한 뒤 오는 12월까지 계약 기업을 공개할 수 있을 것 같다."