Ollama 새 버전이 애플 칩 기반 기기에서 특정 모델의 메모리 부담을 줄이고, 응답 API가 입력을 말없이 잘라내던 기본 동작을 바꿨다. 로컬 모델을 실행하는 개발자는 메모리 여유를, 서비스를 연동하는 개발자는 입력 내용의 보존을 중심으로 변화를 살펴볼 수 있다. ARM 기반 윈도 기기를 위한 그래픽 연산 지원도 추가됐다.
1. Apple silicon에서 메모리 부담을 낮췄다
11월 9일 공개된 v0.40.16에서 Qwen3.8 Flash Next는 회사 발표 기준으로 애플 칩 기반 기기에서 메모리를 약 27 GiB 덜 사용한다. 모델 실행에 필요한 메모리 공간이 줄었다는 발표로, 실행 환경을 고를 때 눈여겨볼 대표 변화다.
메모리는 모델을 올려놓는 작업 공간이라는 점에서, 사용량 감소는 같은 기기의 공간 제약을 덜어주는 변화로 읽을 수 있다. 모델 실행과 다른 작업을 함께 고려하는 사용자라면 속도 개선 수치와는 다른 관점에서 이번 절감량을 살펴볼 만하다.
발표에는 측정 기종과 모델 설정, 절감 전후의 총메모리 사용량이 없어 27 GiB만으로 특정 기기의 실행 가능 여부를 판단하기는 어렵다.
2. 응답 API는 기본적으로 입력을 조용히 자르지 않는다
/v1/responses는 이제 truncation, 입력을 잘라낼지 정하는 설정을 따르며, 기본적으로 입력을 조용히 잘라내지 않는다. 사용자가 보낸 요청의 일부를 말없이 덜어내던 동작을 바꿔, 서비스가 의도한 입력 처리 방침을 점검하기 쉬워진다.
개발자에게 돌아가는 이익은 입력의 일부가 의도치 않게 빠지는 일을 줄이는 데 있다. 그 대신 기본 동작에 맡기던 입력 처리를 서비스 쪽에서 살펴보는 작업이 중요해진다. 자동 절단의 편의에서 요청 처리 방침을 직접 관리하는 쪽으로 점검의 무게가 옮겨가는 셈이다.
3. Windows ARM에 CUDA 13.5 지원을 추가했다
이번 버전은 Windows on ARM에서 CUDA 13.5를 지원한다. ARM 기반 윈도 환경에서 그래픽 연산을 활용해 모델을 실행하려는 사용자가 주목할 변경이다. 앞선 메모리 절감이 모델과 메모리 공간에 관한 소식이라면, 이 항목은 실행 플랫폼 지원에 관한 소식이다.
배포 목록에는 윈도 ARM64용 ollama-windows-arm64.zip이 있다. 해당 환경을 쓰는 사용자는 이 배포 파일과 새 CUDA 지원 항목을 함께 살펴볼 수 있다.
4. 연동 서비스는 긴 입력과 빈 모델 목록을 점검한다
/v1/models는 설치된 모델이 없을 때 null이 아니라 빈 목록을 반환한다. 응답을 해석하는 클라이언트는 모델이 없는 상태를 빈 목록으로 처리하도록 확인해야 한다.
업데이트를 준비하는 서비스는 긴 입력을 보내는 요청과 설치 모델이 없는 상태를 시험 대상으로 삼을 만하다. 입력을 어떻게 다룰지와 모델 목록이 비었을 때 무엇을 보여줄지를 각각 확인하면, 이번 API 변경을 실제 연동 점검 항목으로 옮길 수 있다.
5. Ripple Preview 모델을 소개했다
릴리스는 Ricursive Intelligence의 Ripple Preview도 소개했다. 개발 작업을 수행하는 에이전트용으로 만든 650억 매개변수 모델이며, 매개변수 전반을 연산에 쓰는, 일부만 골라 쓰지 않는 밀집형 구조다. 다음은 릴리스에 실린 실행 명령으로, 새 모델을 시험하려는 사용자의 시작점이다.
ollama run ripple-previewOllama v0.40.16은 로컬 실행의 메모리 부담과 플랫폼 선택지를 개선하고, 연동 서비스에는 입력 처리 방침을 다시 살펴볼 계기를 주는 업데이트다.