리퀴드 AI, 온디바이스 모델 LFM3 공개

리퀴드 AI는 27일(현지시간) 기업과 개인이 관리하는 기기에서 에이전트, 음성 비서, 이미지·영상 인식 기능을 실행하도록 설계한 온디바이스 모델 제품군 LFM3를 공개했습니다. 제품군은 텍스트 LFM3-1.7B, 시각 LFM3-VL-2B, 오디오 LFM3-오디오-2B, 멀티모달 LFM3-옴니-2B와 의사결정 모델 d1-2B, d1-옴니-2B 등 6종입니다. 매개변수 규모는 약 17억~22억개이며, 텍스트·이미지·음성·멀티모달·의사결정 모델을 공통 기반 아키텍처로 통합했다고 회사는 밝혔습니다. 모델 가중치는 허깅페이스, 리퀴드 AI 플레이그라운드, API를 통해 제공됩니다. 기업은 자체 데이터로 미세조정해 기기, 사내 서버 또는 클라우드에 배포할 수 있습니다.

LFM3는 이메일 분류와 일정 관리, 웹 검색, 업무용 애플리케이션 조작 같은 작업을 지원합니다. 헤르메스 에이전트, 파이(Pi), 오픈클로 등 에이전트 프레임워크에서 사용할 수 있도록 학습됐으며, 개발자는 로컬 환경에서 모델을 시험할 수 있습니다. 리퀴드 AI는 표준 트랜스포머 대신 하이브리드 선형 대수·신경망 아키텍처를 채택했다고 설명했습니다. 기존 LFM2 계열의 구조를 발전시켜 짧은 합성곱 연산, 제한된 범위의 어텐션, 전체 문맥을 처리하는 어텐션을 결합했습니다. 사전 학습에는 22조개 토큰을 썼고, 텍스트 모델은 최대 25만6000토큰의 문맥을 처리합니다.

회사는 브라우저 자동화 평가 웹아레나-검증과 업무 자동화 평가 오토메이션벤치에서 LFM3-1.7B가 큐원3.5-9B보다 높은 점수를 얻었다고 밝혔습니다. 코딩과 일반 지식 등 일부 영역에서는 더 큰 모델이 우세했습니다. 자체 측정에서 LFM3-1.7B는 세 종류 기기 모두에서 비교 대상 모델보다 토큰 생성 속도가 빨랐고, 후속 모델보다 1.8~2.8배 높은 속도를 기록했습니다. 12만8000토큰 문맥 처리에 필요한 키·값(KV) 캐시 메모리는 1.6GB로, 큐원3.5-4B의 4.3GB와 MiniCPM5-2B의 5.6GB보다 적었다고 회사는 설명했습니다.

시각 모델은 이미지와 영상에 대한 질문에 답하고 사물의 위치와 공간 관계를 파악하도록 설계됐습니다. 오디오 모델은 음성 인식·생성·번역을 18개 언어로 지원하고, 음성 명령을 소프트웨어 도구 호출로 연결합니다. 입력 음성이 끝나기 전 처리를 시작해 첫 토큰 생성까지 최저 50밀리초가 걸린다고 회사는 밝혔습니다. 옴니 모델은 시각·음성·언어를 결합해 이미지나 주변 환경에 대한 질문에 답하고 영상과 소리를 함께 분석하며 앱을 제어할 수 있습니다.

의사결정 모델 2종은 긴 자연어 답변 대신 입력에서 숫자·날짜를 추출하거나 이미지 속 사물 위치를 표시하고 선택지를 고르는 구조화된 결과를 한 번에 내도록 설계됐습니다. d1-옴니-2B는 통화나 음성 메모를 분류해 후속 작업으로 연결할 수 있습니다. 리퀴드 AI는 풍력 터빈 블레이드 사진 3000장으로 시각 모델을 미세조정하고 별도 이미지 약 1400장으로 평가했을 때 결함 분류 정확도가 10% 미만에서 67%로 올랐다고 밝혔습니다. 다만 결함 위치 탐지 F1 점수는 0.11이었습니다. 회사는 자체 데이터로 특화한 모델을 애플리케이션이 실행되는 기기에서 운용할 수 있다고 설명했습니다.

리퀴드 AI는 27일(현지시간) 기업과 개인이 관리하는 기기에서 에이전트, 음성 비서, 이미지·영상 인식 기능을 실행하도록 설계한 온디바이스 모델 제품군 LFM3를 공개했습니다. 제품군은 텍스트 LFM3-1.7B, 시각 LFM3-VL-2B, 오디오 LFM3-오디오-2B, 멀티모달 LFM3-옴니-2B와 의사결정 모델 d1-2B, d1-옴니-2B 등 6종입니다. 매개변수 규모는 약 17억~22억개이며, 텍스트·이미지·음성·멀티모달·의사결정 모델을 공통 기반 아키텍처로 통합했다고 회사는 밝혔습니다. 모델 가중치는 허깅페이스, 리퀴드 AI 플레이그라운드, API를 통해 제공됩니다. 기업은 자체 데이터로 미세조정해 기기, 사내 서버 또는 클라우드에 배포할 수 있습니다.

LFM3는 이메일 분류와 일정 관리, 웹 검색, 업무용 애플리케이션 조작 같은 작업을 지원합니다. 헤르메스 에이전트, 파이(Pi), 오픈클로 등 에이전트 프레임워크에서 사용할 수 있도록 학습됐으며, 개발자는 로컬 환경에서 모델을 시험할 수 있습니다. 리퀴드 AI는 표준 트랜스포머 대신 하이브리드 선형 대수·신경망 아키텍처를 채택했다고 설명했습니다. 기존 LFM2 계열의 구조를 발전시켜 짧은 합성곱 연산, 제한된 범위의 어텐션, 전체 문맥을 처리하는 어텐션을 결합했습니다. 사전 학습에는 22조개 토큰을 썼고, 텍스트 모델은 최대 25만6000토큰의 문맥을 처리합니다.

회사는 브라우저 자동화 평가 웹아레나-검증과 업무 자동화 평가 오토메이션벤치에서 LFM3-1.7B가 큐원3.5-9B보다 높은 점수를 얻었다고 밝혔습니다. 코딩과 일반 지식 등 일부 영역에서는 더 큰 모델이 우세했습니다. 자체 측정에서 LFM3-1.7B는 세 종류 기기 모두에서 비교 대상 모델보다 토큰 생성 속도가 빨랐고, 후속 모델보다 1.8~2.8배 높은 속도를 기록했습니다. 12만8000토큰 문맥 처리에 필요한 키·값(KV) 캐시 메모리는 1.6GB로, 큐원3.5-4B의 4.3GB와 MiniCPM5-2B의 5.6GB보다 적었다고 회사는 설명했습니다.

시각 모델은 이미지와 영상에 대한 질문에 답하고 사물의 위치와 공간 관계를 파악하도록 설계됐습니다. 오디오 모델은 음성 인식·생성·번역을 18개 언어로 지원하고, 음성 명령을 소프트웨어 도구 호출로 연결합니다. 입력 음성이 끝나기 전 처리를 시작해 첫 토큰 생성까지 최저 50밀리초가 걸린다고 회사는 밝혔습니다. 옴니 모델은 시각·음성·언어를 결합해 이미지나 주변 환경에 대한 질문에 답하고 영상과 소리를 함께 분석하며 앱을 제어할 수 있습니다.

의사결정 모델 2종은 긴 자연어 답변 대신 입력에서 숫자·날짜를 추출하거나 이미지 속 사물 위치를 표시하고 선택지를 고르는 구조화된 결과를 한 번에 내도록 설계됐습니다. d1-옴니-2B는 통화나 음성 메모를 분류해 후속 작업으로 연결할 수 있습니다. 리퀴드 AI는 풍력 터빈 블레이드 사진 3000장으로 시각 모델을 미세조정하고 별도 이미지 약 1400장으로 평가했을 때 결함 분류 정확도가 10% 미만에서 67%로 올랐다고 밝혔습니다. 다만 결함 위치 탐지 F1 점수는 0.11이었습니다. 회사는 자체 데이터로 특화한 모델을 애플리케이션이 실행되는 기기에서 운용할 수 있다고 설명했습니다.