'국가대표 AI' 도전 김영섬 코난 대표 "현장 경험이 무기…산업 특화로 승부수"

[아이뉴스24 윤소진 기자] “책상 위에서 만든 모델이 아니라 산업 현장에서 단련된 AI로 승부하겠습니다.”

김영섬 코난테크놀로지 대표는 최근 아이뉴스24와 인터뷰에서 ‘국가대표 AI’ 공모에 도전장을 내민 이유를 이렇게 밝혔다. 코난은 자체 개발한 한국어 특화 코난거대언어모델(LLM)을 국방·공공·의료 등 다양한 산업군 실제 적용한 현장 경험을 바탕으로 이번 경쟁에서 차별화된 강점을 보여주겠다는 전략이다.

코난은 정부가 한국형 초거대 AI를 육성하기 위해 추진 중인 '독자 AI 파운데이션 모델 개발' 공모 사업에 참여 중이다. 이번 공모에는 총 15개 팀이 접수했고 코난은 지난주 서면 평가를 통과해 발표평가 대상 10개 팀에 이름을 올렸다. 정부는 8월 초 1차 정예팀 5곳을 선정해 GPU, 데이터, 인재 등 AI 개발을 위한 전방위 지원을 시작한다.

김 대표는 "정부에서 지원하는 자원과 개발 기간을 고려해 실제 현장에서 바로 활용할 수 있는 현실적인 모델을 개발할 계획"이라며 "국내 AI 생태계 발전을 위해 이번 공모로 개발한 모델의 개발 코드와 데이터 모든 것을 전면 공개할 예정"이라고 말했다.

그는 이어 "GPU만 있다면 도전할 수 있는 시대다. 대기업 여부는 더이상 의미가 없다"며 "산업 현장에서의 실전 경험이야말라고 핵심 경쟁력"이라고 강조했다. 그가 말하는 현장에서 단련된 AI의 의미는 무엇일까. 코난의 ‘국가대표 AI’ 공모 참여 배경부터 컨소시엄 구성, 평가 기준, 향후 계획까지 코난의 AI 전략을 들어봤다.

독자AI 공모 참여 결정하기까지 내부적으로 어떤 논의가 있었나?

"초기부터 참여의지가 확고했다. 지금까지 개발과 사업 수행 경험을 바탕으로, 세계적인 수준의 정교한 국내 표준LLM을 만들 수 있는 곳은 코난이라는 확신이 있었다. 오히려 이번 공모 참여를 통해 회사가 한 단계 더 도약할 수 있다는 기대감이 컸다."

공모 참여 결정 과정에서 가장 중요하게 고려한 기준은 무엇인가?

"LLM 개발의 필수 요소는 핵심 개발자, 데이터, 그리고 GPU다. 코난은 엠파스, 네이트, 싸이월드 등의 검색을 지원하면서 구축한 방대한 데이터를 보유하고 있다. 또 실제 70여대의 수집서버를 운영하면서 약 250억건의 데이터를 확보하고 있다. 현재 엔비디아 H100 DGX 17대(136장)과 50여장의 개별 GPU를 보유하고 있지만 대형 모델을 구축하긴 역부족이다. 이번 정부의 GPU 지원이 기술은 있지만 자원이 부족한 기업에 좋은 기회가 될 것이다."

이번 공모를 위한 컨소시엄은 어떻게 구성했나

"이재명 정부는 출범 이후 실무 역량을 중심으로한 인사 정책이 주목을 받았다. 코난도 실무 경험을 최우선으로 고려했다. 특히 데이터는 AI에게 밥을 먹이는 것과 같다. 똑같은 데이터만 공급하면 모델은 영양실조에 걸리는 것과 같다. GPU 학습은 코난이 거의 전담하고 파트너는 데이터 학습과 처리기술 역량에 중점을 뒀다."

컨소시엄 참여기업 선정 과정에서 가장 고심한 기준은?

"각 분야 기술력 1등 기업과 함께하고자 했다. 코난 컨소시엄과 함께하는 사이냅소프트는 광학문자인식(OCR) 시장 점유율 1위 업체다. 알체라는 이미지 영상데이터 학습 기술의 선두에 있다. 합성데이터 처리는 페블러스가 맡는다. 데이터 학습과 처리기술에 역량을 갖춘 파트너들과 함께 모델 성능을 끌어올릴 계획이다.

연구진의 경우 컨소시엄에 참여하는 4개 대학은 모두 '국가AI연구거점' 소속이다. 김기응 국가AI연구거점 센터장(카이스트), 이성환 고려대 고수, 김선주 연세대 교수 등 부연 설명이 필요없는 라인업이고 총 참여 교수진은 12명이다. 연구진 구성 만큼은 컨소시엄 효율과 별개로 최대한 많은 대학, 대학원생을 컨소시엄에 참여시켜 국내 AI 인재들이 모델 개발 경험을 쌓을 수 있게 돕기로 했다."

이번 공모에서 '코난이 아니면 안된다'고 판단한 핵심 요소가 있었나

"독자AI 프로젝트는 LLM을 직접 개발할 수 있는 역량을 갖춘 기업을 선발하는데 그 목적이 있다. 코난은 2023년 8월 13.1B 모델 학습을 완료한 이후, 41B, 온디바이스, 그리고 지난 3월 국내 최초의 추론통합 Konan LLM ENT11 모델까지 꾸준히 자체 개발하며 성과를 공개해 왔습니다. 추론 모델 공개는 네이버(7월)보다 빨랐습니다. 즉, 국내에서 이러한 실적을 지속적으로 쌓으며 개발 행보를 이어온 곳은 대기업을 차치하더라도 코난이 유일하다.

코난LLM은 이미 국방 AI 센터, 한국남부발전, 한림대의료원 등 다양한 기관에 성공적으로 구축됐다. 최근에는 건강보험공단, 경기도청, 대법원 등 주요 기관에도 수주가 확정됐다. 이 정도의 LLM 레퍼런스를 쌓은 곳은 코난 외에는 전무하다. 총 20여 건에 이르는 업계 최고 수준의 LLM 사업 수행 경험은 이번 프로젝트에 대한 자신감과 경쟁력을 확실히 뒷받침한다."

공모에 제출한 '독자AI 개발 계획서'를 한문장으로 요약한다면?

"‘제조 AI 파운데이션 모델의 개발과 학습 효율화 기술 개발'이다. 제조업 AX 플랫폼을 산업 주축으로 확산하는 것으로, 이는 새 정부의 제조업 살리기 기조에도 부응한다. 이와 함께 국민의 AI 접근성 증진을 위한 방안으로 학교 AI 플랫폼을 개발해 전국 초·중·고교로 확산시킬 계획이다. 또 동남아 국가와의 협력을 기반으로 소버린 AI의 해외 진출을 추진한다. 이를 통해 국내 AI 산업 경쟁력을 강화하고 글로벌 시장 진출로 이어질 수 있는 생태계를 조성하겠다는 방침이다."

공식 평가기준 외에 실제로 중요하게 고려되는 평가요소를 예상한다면?

"정부는 기술력, 사업화 능력, 생태계 기여 등을 핵심 기준으로 제시했다. 이 외에도 실제 산업과 사회적 파급효과가 중요한 평가요소라고 생각한다. 국가 경쟁력 제고와 글로벌 진출 가능성에 대한 정책적 메시지도 내포돼 있다고 해석했다.

개인적으로는 이번 사업을 통해 실제 모델 성능과 무관하게 실제 모델 성능과 무관하게 주목만 끌었던 기업들과 실질적 기술력을 갖춘 기업 간의 옥석 가리기가 이뤄지길 기대한다. 공모에 앞서 코난은 공정한 평가를 위해 정부에 공모용 자체 평가셋 구축을 건의했다. 실제 성능과 무관한 과장된 지표 경쟁을 막고, 모델의 완성도를 가리자는 취지다. 이번 공모에서 정부 직접 평가셋을 구축하고 교차검증도 진행하기 때문에 보다 신뢰성 있는 평가가 기대된다."

정부의 지원도 한정돼 있다. 중소기업 입장에서 불리함은 없나?

“자원 규모만으로 승부가 나는 시대는 끝났다. 오히려 기민한 실행력과 집중적인 인력 배치가 대기업보다 유리한 점이다. 물론 자원 면에서는 제한이 있지만, 정부가 GPU를 지원해준다면 코난이 주도권을 쥘 수 있다고 판단했다. 이미 B200 등 고성능 GPU에 대한 사전 최적화도 마친 상태다.”

심사일정은 물론이고 정예팀 선발 후에도 1차 평가까지 굉장히 빠듯한데 대응전략이 있나?

"공모 사업계획서를 준비하면서 이미 발표영상 제작에 들어갔고 서면평가 시작도 전에 시사회를 마칠 정도로 준비를 철저히 했다. 8월 정예팀 선정 이후 12월 1차 평가까지 일정이 매우 빠듯할 것으로 예상되지만, 주어진 시간과 자원을 감안해 모델 크기와 개발 방향을 설정했기 때문에 충분히 성과를 낼 수 있다고 자신한다. 이 과정에서 실제 AI 개발경험과 GPU 운용 경험이 있는 컨소시엄이 그렇지 않은 곳과 차이를 벌릴 것으로 예상한다."

코난이 올해 창립 26주년을 맞았다. 앞으로의 목표가 있다면?

"올해 창립 26주년을 맞은 지금, 코난은 두 번째 도약을 준비하고 있다. 단순히 오래된 기업이 아니라 변화에 가장 유연하게 대응해온 기술 중심 기업으로 평가받고 싶다. 이번 ‘K-AI’ 선정에 모든 역량을 집중하고 있고, 전문성과 공정성이 살아 있는 심사를 기대한다. 보여주기보다, 진짜 실력으로 증명하는 회사가 되겠다.”