퀄컴, AI 추론 가속기 '클라우드 AI 100'  최초 출하

[아이뉴스24 김문기 기자] 퀄컴이 AI 추론 가속기를 첫 출하한다.

퀄컴은 고성능 인공지능(AI) 추론 가속기 퀄컴 클라우드 AI 100 출하를 17일 발표했다.

퀄컴 클라우드 AI 100은 탁월한 신호 처리와 첨단 전력 효율을 활용해 데이터센터, 클라우드 엣지, 엣지 어플라이언스, 5G 인프라 등 다양한 환경에서 AI 솔루션을 지원한다. 공개된 개발 키트는 5G 연결을 통해 최대 24개의 1080p 영상 스트림을 동시에 처리할 수 있는 시스템 솔루션을 제공한다.

키스 크레신 퀄컴 테크날러지 수석 부사장 겸 컴퓨팅 및 엣지 클라우드 담당 본부장은 "퀄컴 테크날러지는 와트당 성능 측면에서 업계를 선도하는 엣지-투-클라우드 고성능 AI 솔루션의 완성을 뒷받침할 수 있는 역량을 갖추었다"라며, "퀄컴 클라우드 AI 100은 전 세계 일부 고객을 대상으로 출하가 시작되었으며, 2021년 상반기에 상용화 제품 출시를 기대한다"라고 설명했다.

퀄컴 클라우드 AI 100은 최대 400TOPS 처리 능력을 갖춘 와트당 성능을 기반으로 최첨단 AI 추론 효율성을 제공하도록 설계됐다. 퀄컴 클라우드 AI 100은 15W에서 75W에 이르는 PCI-E 카드 수준의 전력 프로필을 갖는 여러 폼펙터를 지원한다.

퀄컴 클라우드 AI 100 소프트웨어 제품군은 포괄적인 툴 스택을 제공하며 텐서플로(Tensorflow), 파이토치(PyTorch), 카페(Caffe) 등 인기 프레임워크와 글로우(GLOW), ONNX 등 런타임 등을 지원한다. 소프트웨어 제품군에는 컴파일러 및 시뮬레이터가 내장된 퀄컴 클라우드 AI 100 애플리케이션 소프트웨어 개발 키트(SDK)와 런타임, API, 커널 드라이버 및 툴이 탑재된 플랫폼 SDK가 포함됐다.

해당 소프트웨어 제품군은 다양한 생산 환경에서 퀄컴 클라우드 AI 100 플랫폼을 개발하고, 테스트 및 구축할 수 있도록 설계됐다.

퀄컴 클라우드 AI 100 엣지 개발 키트는 고성능 AI 추론 능력, 영상 처리 기술과 5G 연결성을 제공하는 최적화된 시스템 솔루션으로 세 가지 모듈식 퀄컴 부품으로 구동된다.