Ollama v0.40.13: LFM3 리눅스 지원, 윈도우 지원

1. LFM3 모델군의 운영체제 지원 확대

Ollama v0.40.13 릴리스 노트에 따르면 리퀴드 AI의 LFM3 모델은 기존 애플 실리콘에 더해 리눅스와 윈도우에서도 실행된다.

지원 대상에는 텍스트 모델과 함께 lfm3-audio와 lfm3-omni의 음성 합성, 글을 소리로 만드는 기능도 포함된다. 따라서 새 지원 범위는 글을 주고받는 작업뿐 아니라 모델이 음성을 생성하는 용도까지 걸쳐 있다.

2. 로컬 에이전트용 1.7B 텍스트 모델

Ollama 라이브러리는 LFM3-1.7B를 로컬 에이전트와 전문 분야 응용을 위한 텍스트 모델로 소개한다. 전체 24개 층에 게이트형 짧은 합성곱 13개, 슬라이딩 윈도 어텐션 5개, 전역 어텐션 6개를 결합한 구조이며, 기본 학습 뒤 에이전트 용도에 맞춰 추가 학습한 모델이다.

주요 사용 대상으로는 모델이 다른 프로그램의 기능을 쓰는 외부 도구 호출, 정해진 형식의 출력, 특정 분야에 맞게 모델을 추가로 훈련하는 미세 조정을 제시한다. 범용 대화만을 겨냥하기보다 사용자의 도구와 업무 형식에 맞춰 적용하는 쪽에 무게가 실려 있다.

표: LFM3-1.7B의 문맥 한도·용량·메모리 기재값

조건: Ollama 라이브러리와 모델 카드 기재값. 메모리는 4비트 정밀도 기준이며, 하드웨어·실행 환경 조건은 원문에 없음

단위: 문맥 한도는 토큰, 용량과 메모리는 GB

256K는 입력만의 한도가 아니므로, 긴 문서를 넣을 때도 생성할 출력 분량을 함께 문맥 예산에 배정해야 한다. 라이브러리의 용량 표시와 모델 카드의 메모리 사용량은 서로 다른 지표이며, 같은 기준의 성능 비교값이 아니다.

3. 실행과 애플리케이션 연결

명령줄에서 모델을 시작하려면 ollama run lfm3를 실행하면 된다. 로컬 채팅 API를 사용하는 예시는 라이브러리 페이지에 다음과 같이 실려 있다.

curl http://localhost:11434/api/chat \
  -d '{
    "model": "lfm3",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

이 예시는 로컬 채팅 API에 모델 이름과 대화 내용을 보내는 형태다. 라이브러리는 파이썬과 자바스크립트 연결 방법도 안내하므로, 명령줄에서 대화하는 것과 애플리케이션 코드에 넣어 사용하는 경로를 함께 살펴볼 수 있다.

에이전트 실행 도구와 연결하는 명령도 제공한다. 예를 들어 Hermes Agent는 ollama launch hermes --model lfm3로 시작할 수 있다. 모델 카드 역시 이 도구를 추가 학습의 대상으로 명시해, 실행 예시와 모델의 지향점을 함께 보여 준다.

4. 용도에 따른 이점과 한계

로컬 실행의 이점은 사용자의 컴퓨터 안에서 에이전트용 모델을 운용할 수 있다는 점이며, 그 대신 모델을 올릴 메모리는 해당 기기에서 마련해야 한다. 4비트 정밀도에서는 회사가 제시한 약 1GB의 메모리 사용량을 로컬 배치의 판단 기준으로 삼을 수 있다. 라이브러리 용량 표시가 아니라 이 조건부 메모리 값을 기기의 메모리 예산과 대조해야 한다.

분야별 적용을 위한 미세 조정은 회사 설명상 단일 GPU에서 빠르게 수행할 수 있다. 제공된 모델을 바로 실행하되, 자기 분야·출력 형식·도구에 맞춘 조정이 필요하면 단일 GPU 미세 조정 경로를 검토할 수 있다.

모델 카드는 작은 크기를 이유로 에이전트 코딩이나 복잡한 여러 단계를 거쳐 답을 도출하는 다단계 추론에는 권장하지 않는다. 지식이 많이 필요한 작업에는 필요한 정보를 검색해 함께 쓰도록 안내한다.

이번 업데이트의 핵심은 LFM3 모델군을 리눅스와 윈도우의 Ollama 작업 흐름에 더해 선택지를 넓힌 것이며, 모델의 작은 크기에 맞는 에이전트·특화 용도를 겨냥하는 데 있다.