미국 메사추세츠주 케임브리지에 본사를 두고 있는 리퀴드 인터넷 바카라(Liquid 인터넷 바카라)가 온디바이스 파운데이션 모델인 ‘LFM(Liquid Foundation Model)2’를 발표했다.
대규모 생성형 모델을 클라우드에서 벗어나 로컬 장치(Low-resource Device)로 이동시키면, 밀리초(ms) 단위의 지연 시간, 오프라인 작동, 데이터 주권 기반의 프라이버시를 확보할 수 있다. 이는 스마트폰, 노트북, 자동차, 인터넷 바카라, 웨어러블, 위성 등 실시간으로 추론해야 하는 다양한 단말 장비(엔드포인트)에서필수적인 요소라고 회사측은 설명했다.
리퀴드 인터넷 바카라는 LFM2를 업계 전반에 빠른 온디바이스 생성형 인터넷 바카라 경험을 제공하도록 설계했으며, 이를 통해 수많은 디바이스가 생성형 인터넷 바카라 작업을 수행할 수 있게 됐다고 밝혔다. 새로운 아키텍처와 훈련 인프라 덕분에 이전 세대 모델 대비 학습 효율이3배 향상되었다는 설명이다.
리퀴드 인터넷 바카라는 LFM2의 소소를 허깅페이스에 공개했다. 리퀴드 인터넷 바카라는 저지연 온디바이스 LLM을 목표로 350M, 700M, 1.2B의 세 가지 모델 크기를 선정했다. 모든 모델은 약 10조 개의 토큰(token)을 활용해 학습되었으며,다국어 학습은 주로 일본어, 아랍어, 한국어, 스페인어, 프랑스어, 독일어에 집중됐다.
리퀴드 AI의 공동 창립자 겸 CEO인 라민 하사니(Ramin Hasani)는 “리퀴드는 품질, 지연 시간 및 메모리 효율성을 염두에 두고 동급 최고의 기반 모델을 구축한다”며 “LFM2 시리즈 모델은 모든 프로세서에서 온디바이스 배포를 위해 설계, 개발 및 최적화되어 에지에서 생성 및 에이전트 AI의 애플리케이션을 진정으로 활용할 수 있다. LFM2는 우리가 앞으로 몇 달 안에 출시할 강력한 모델 시리즈 중 첫 번째이다”고 말했다.