로컬 기기와 서버에서 AI 모델을 실행하는 llama.cpp가 새 주요 버전을 공개했다. 이를 제품에 연결하는 개발자는 앞으로 버전 번호로 기존 연동 방식이 바뀌는 시점을 파악할 수 있으며, 새 모델 지원과 서버 보안 개선도 함께 적용할 수 있다.

1. 메이저 버전이 호환성 경계를 알린다

개발팀은 2026년 11월 13일 llama.cpp와 기반 연산 라이브러리 ggml의 v1.0.0을 공개했다. 앞으로 공개 C API나 이미 빌드된 프로그램과의 호환성이 깨질 때는 맨 앞 버전 숫자를 올려 연동 제품에 변경 경계를 알린다.

버전 규칙은 세 단계다. 공개 C API를 깨뜨리는 변경은 메이저, 호환성 경계가 달라지는 큰 버전, 기존 사용법을 유지하는 기능·모델 지원 추가는 마이너, 새 기능을 더하는 중간 버전, API 변경 없는 버그 수정은 패치, 기능 추가 없이 오류를 고치는 버전으로 구분한다. 릴리스마다 변경 목록을 읽기 전에 연동 코드 수정이 필요한지 가늠할 신호를 주는 셈이다.

2. 공개 API 정리와 추론 기능 추가

이번 버전은 공개 헤더에서 폐기 예정 함수 35개와 워밍업 함수, 첫 실행을 준비하는 함수를 제거하고, 메모리 단편화, 메모리가 작은 조각으로 나뉘는 현상 임계값 설정도 없앴다. 다음 출력을 미리 제안하고 확인하는 추측 디코딩, 다음 결과를 미리 제안해 확인하는 생성 방식용 API는 보조 헤더에서 기본 헤더로 옮겼다. 기존 API를 직접 호출하는 제품은 제거된 함수의 사용 여부부터 살펴볼 수 있다.

혼합 전문가 모델, 여러 전문 처리부를 선택해 쓰는 모델에서는 작업을 나눠 맡는 전문가 부분을 주기억장치에 보관하는 캐시가 추가됐다. 캐시 크기와 필요한 전문가가 캐시에 없을 때 CPU가 처리할 비중을 조정할 수 있어, 모델 실행 자원을 배분하는 선택지가 넓어졌다.

3. 모델과 하드웨어 지원 범위 확대

릴리스에는 텍스트 모델 구조 세 가지와 음성 합성 모델 지원이 추가됐다. 새 텍스트 모델에는 Kimi-K3.1-Pro와 Ripple-65B-Preview가 포함된다. 개발팀 발표 기준으로 현재 지원하는 모델 구조의 변형은 150개가 넘는다.

음성·이미지 처리 범위도 넓어졌다. Gemma 4의 스트리밍 음성 입력을 지원하고, MageVL-Cowork처럼 이미지를 다루는 모델도 추가했다. 텍스트 대화에 음성과 이미지를 결합하는 제품이 활용할 수 있는 변화다.

하드웨어별 실행을 맡는 백엔드는 동적 라이브러리, 실행 중 불러오는 공유 코드 파일로 빌드해 필요할 때 불러올 수 있다. 이번에는 CUDA와 Metal의 양자화 행렬 연산, 낮은 정밀도로 행렬을 계산하는 방식을 비롯해 여러 백엔드의 연산 경로도 개선했다. 두 원문에는 개선 폭을 비교할 성능 측정치가 제시되지 않았다.

4. 서버 보안과 사용 흐름 변경

llama-server는 서버가 의도하지 않은 주소로 요청을 보내도록 악용되는 문제와 브라우저의 하위 인스턴스 직접 접근 문제 등을 수정했다. 인증 없는 도구 사용과 사설 주소, 공개 인터넷에서 직접 접근하지 않는 주소의 미디어 접근은 명시적으로 허용하는 설정을 추가했다.

외부 도구를 연결하는 MCP 호출, 외부 도구 연결 규약을 쓰는 호출은 클라이언트 연결이 끊기거나 시간이 초과되면 취소하고 도구 서버에도 알린다.

서버가 쉬는 시점도 조정했다. 요청이 서버 상태를 사용하는 동안에는 절전 상태로 들어가지 않도록 했다.

서버에는 OpenAI 호환 음성 합성 API가 추가됐다.

웹 화면에서는 대화를 이름 있는 그룹으로 모으고, 마크다운, 기호로 문서 서식을 지정하는 문법을 미리 보며 긴 메시지를 편집할 수 있다.

5. 연동 안정성과 전환 비용

버전 규칙과 지원 범위 확대는 연동 유지보수와 새 모델 도입에 도움을 준다. 그 대가로 이번 전환에서는 제거·이름 변경된 API를 확인하고, 일부 이미지 모델의 로딩 조건이 엄격해진 데 맞춰 모델 파일과 로딩 경로를 점검하는 작업이 따른다.

실행 설정을 조정하려는 이용자는 키·값 캐시를 8비트 부동소수점 형식으로 저장하는 선택지도 쓸 수 있다. 릴리스 노트가 제시한 관련 옵션 표기는 다음과 같다.

-ctk/-ctv f8_e4m3

블로그는 주요 데스크톱·모바일 운영체제용 사전 릴리스 빌드와 컨테이너·패키지 배포 경로를 안내했다. 이용자는 기존 설치 방식에 맞는 채널을 확인하고, 직접 API를 연동했다면 호출부 점검을 업그레이드 절차에 포함할 수 있다.

v1.0.0의 핵심은 기능 확장과 함께 호환성 변화를 버전으로 드러내, 연동 개발자가 업그레이드 영향을 판단할 기준을 세운 데 있다.