Ollama v0.40.10: 로컬 비전, 도구 사용

1. 이미지와 도구를 다루는 소형 모델이 추가됐다

10월 23일 공개된 Ollama v0.40.10은 NVIDIA의 Nemotron 3.5 Bolt E4B를 새 모델로 소개한다. 릴리스 노트는 빠른 로컬 대화와 이미지 이해, 도구 사용을 주요 용도로 들고 컨텍스트, 대화에서 모델이 참고할 수 있는 정보 범위를 128K로 안내한다.

Ollama 라이브러리에 따르면 이 모델은 NVIDIA가 Gemma 4 E4B를 바탕으로 추가 학습했다. 전체 파라미터, 모델이 학습하며 조정하는 수치는 80억 개이며, 이 가운데 유효 파라미터는 40억 개로 설명한다. 지시 수행과 여러 차례 이어지는 도구 사용을 겨냥한 구성이다.

텍스트 질문에 답하는 데서 나아가 이미지와 관련된 작업까지 같은 로컬 모델로 시도할 수 있다는 점이 이번 추가의 의미다. 라이브러리는 이미지, 스크린샷, 차트, 문서를 다룰 수 있다고 안내한다.

2. 시각 자료 확인을 도구 호출과 연결한다

이미지 이해는 화면이나 문서를 질문의 자료로 삼는 기능이다. 도구 사용은 필요한 함수를 호출하고, 돌아온 결과를 다음 작업에 활용하는 방식이다. 개발자는 시각 자료를 읽는 단계와 도구 결과를 받아 작업을 이어 가는 단계를 함께 시험할 수 있다.

라이브러리는 답변 전에 추론, 답을 만들기 위한 내부 계산 과정을 켜거나 끄는 기능도 소개한다. 사용 목적에 맞춰 추론 사용 여부를 선택할 수 있다는 안내다.

생성을 돕는 DFlash 초안 모델도 함께 제공된다. 본 모델 옆에 초안 작성을 돕는 모델을 두는 구성으로, 라이브러리는 회사 발표 기준 추측 디코딩, 초안으로 다음 문장 생성을 앞당기는 방식을 통해 생성을 가속한다고 설명한다.

3. 다운로드 부담을 낮추는 대신 컨텍스트는 짧아진다

라이브러리 모델 목록에서 E4B의 다운로드 크기는 7.2GB~7.9GB다. 같은 목록의 큰 기본 버전은 25GB로 표시된다. 내려받아 보관할 파일의 규모가 작아져 로컬 모델을 도입할 때의 저장 공간 부담을 낮출 수 있다.

반면 컨텍스트는 E4B가 128K, 큰 기본 버전이 256K다. 작은 파일과 긴 컨텍스트 가운데 어느 쪽이 작업에 더 필요한지 살펴볼 수 있는 비교 지점이다. 대화와 도구 결과를 길게 이어 가려는 사용자에게는 다운로드 크기뿐 아니라 컨텍스트도 선택 기준이 된다.

실제 사용 가능한 컨텍스트는 메모리 여건에 따라 달라지며 이미지·대화 기록·도구 결과·출력이 이를 나눠 쓴다. 두 자료에는 처리 속도나 품질을 비교할 측정값이 없어, 생성 가속 안내를 구체적인 성능 차이로 환산할 수는 없다.

4. 작은 버전의 태그를 지정해 실행한다

E4B는 Windows와 Linux, Apple Silicon을 지원한다고 라이브러리가 안내한다. 터미널에서는 릴리스 노트에 실린 다음 명령으로 실행한다.

ollama run nemotron-3.5-bolt:e4b

여기서 작은 버전을 선택하는 부분은 끝의 e4b 태그, 모델 버전을 구분하는 이름표다. 라이브러리 목록에서 latest는 25GB 기본 모델을 가리키므로, 작은 모델을 시험하려면 제공된 실행 예시처럼 대상을 지정하면 된다.

라이브러리 페이지에는 계열 공통으로 파이썬과 자바스크립트의 채팅 호출 예시도 실려 있다. 터미널에서 대화하는 방식 외에 프로그램의 채팅 기능으로 연결하는 진입점도 제공하는 셈이다.

코딩 도구를 연결하려는 사용자를 위해 Claude Code와 OpenCode 등을 모델 지정과 함께 실행하는 안내도 제공한다. 이번 릴리스의 중심은 새 호출 규칙보다는, 이미지와 도구를 다루는 로컬 작업에 더 작은 모델을 선택할 수 있게 된 데 있다.

E4B는 다운로드 용량과 컨텍스트의 맞교환을 바탕으로 로컬 이미지 처리와 도구 사용을 시험할 선택지를 넓혔다.