인공지능(AI) 경량화 전문 스타트업 스퀴즈비츠가 SaaS형 AI 경량화 툴킷 '아울라이트(OwLite)'를 출시했다고 21일 밝혔다.
스퀴즈비츠는 AI 모델 경량화 기술을 개발한 스타트업으로, 지난 2022년 창업 이후 네이버 D2SF 등으로부터 투자를 유치했다.
이후 자체 기술을 토대로 다양한 분야의 AI 모델을 최적화해 고객사들에게 ▲추론 속도 개선 ▲메모리 사용량 절감 ▲클라우드 비용 절감 가치를 제공해왔다.
최근 초거대 AI의 등장으로 AI 서비스 운영에 막대한 비용이 요구되면서 AI 모델 경량화 기술의 가치가 높아지고 있다.
지속 가능한 AI 서비스를 만들기 위해서는 MLOps 과정에서 AI 모델 경량화 및 최적화 기술을 통해 운영 비용을 절감하고 인프라를 최적화하는 것이 필수적이기 때문이다.
스퀴즈비츠의 아울라이트(OwLite)는 고객이 자사의 프로젝트에 스퀴즈비츠의 경량화 기술을 쉽고 빠르게 적용해볼 수 있도록 만든 SaaS 제품이다.
고객사는 아울라이트를 통해 AI 추론 속도를 평균 3.6배, 메모리 사용량을 평균 4배 개선함으로써, AI 서비스 비용을 효율적으로 절감할 수 있다.
특히 아울라이트는 경량화 기술 적용 효과를 AI 모델 개발 단계에서부터 평가하고 분석할 수 있는 기능을 제공한다.
모델 경량화 뿐만 아니라 엔진 빌드, 성능 확인, 비교 및 분석까지 전체적인 시스템을 지원하는 것이다.
전문지식이 부족한 초보자도 쉽게 여러 경량화 기술을 테스트하고 장단점을 비교 분석해 볼 수 있도록 추천 기능도 지원한다. 또한 더 많은 사람들이 AI경량화를 경험해볼 수 있도록 스퀴즈비츠는 아울라이트의 기본 기능을 오픈소스로 공개하고 있다.
김형준 스퀴즈비츠 대표는 "산업혁명이나 인터넷 혁명이 그랬듯이 새로운 기술도 비용이 저렴해져야만 사회 전반에 걸쳐 더욱 빠르게 확산될 수 있다"면서 "아울라이트를 활용해 더욱 많은 AI 서비스 기업들이 AI 운영 비용을 절감하여 지속 가능한AI 서비스를 제공할 수 있을 것"이라고 밝혔다.