로컬에서 언어 모델을 돌리는 사용자를 위한 Strata 0.2.12가 공개됐다. 일부 그래픽카드와 맥에서 긴 입력을 읽는 속도를 높이고, 외부 도구를 불러 쓰는 요청의 처리 오류를 고쳤다. 12GB급 그래픽카드 사용자는 입력 대기를 줄일 수 있고, 도구를 연결해 쓰는 개발자는 여러 도구 가운데 하나를 지정하는 요청을 더 안정적으로 처리할 수 있게 됐다.

1. 다음 단어를 미리 짚는 보조 모델을 조정했다

핵심은 주 모델이 낼 다음 단어를 미리 추측해 출력을 돕는 DFlash2 드래프터의 자체 조정본이다.

자동 모드가 이를 고르는 범위를 맥, Strix Halo, 인텔 Arc A 시리즈와 일부 엔비디아 카드 등으로 넓혔다. 맥에서는 지원하는 두 양자화 모델, 즉 용량을 줄여 저장한 모델에 이 보조 모델이 기본으로 선택된다.

12GB급 엔비디아 카드에서는 UD-IQ4_XS-v31에 조정본을 자동 적용한다. 리눅스에서는 엔진이 이미 쓰는 메모리를 여유 공간으로 잘못 계산하던 문제도 고쳐, 더 느린 파일 캐시 경로로 넘어가는 일을 줄였다. 입력 가속에는 보조 모델 선택뿐 아니라 이 메모리 처리 변경도 포함된다.

2. 12GB 카드에서는 입력 처리량, 일정 시간 동안 처리하는 양이 약 세 배로 늘었다

개발진은 각 기기에서 이전 버전인 0.2.11과 새 후보를 2~3회 비교했다. 실행마다 엔진을 다시 시작하고 순서를 바꿨으며, 매번 확률이 가장 높은 토큰을 고르는 방식으로 300토큰 답변을 생성했다. 각 버전이 기기에 맞춰 저장하는 설정을 사용해 새 보조 모델 선택까지 반영했다.

개발진 발표 기준 RTX 3060 12GB에서 UD-IQ4_XS-v31의 2K 입력 처리량은 초당 87토큰에서 264토큰으로 늘었다. 같은 조합의 32K 입력은 초당 361토큰에서 981토큰으로 증가했다. 짧은 입력뿐 아니라 긴 입력에서도 읽어 들이는 대기 시간을 줄이는 방향의 변화다.

윈도용 Strix Halo에서는 개발진 발표 기준 UD-Q4_K_XL의 4K 입력이 초당 597토큰에서 1,267토큰으로 늘었다. 이 환경에서는 두 가지 최적화가 켜졌다. UD-Q4_K_XL과 UD-IQ4_XS-v31의 Q5_0 레이어에 쓰이는 통합 프롬프트 커널과, 디코딩 커널을 묶어 처리하는 방식이다.

맥 M5 Max에서는 개발진 발표 기준 UD-Q4_K_XL의 4K 입력이 초당 1,406토큰에서 1,605토큰으로 증가했다. 같은 모델의 출력 속도는 시험한 작업 종류를 기하평균, 비율 변화를 반영하는 평균으로 종합했을 때 12.7% 높아졌다. 맥의 입력 처리 경로는 중앙처리장치의 작업과 그래픽 연산이 겹쳐 진행되도록 바뀌었다.

3. 여러 도구 중 하나를 지정하는 요청을 바로잡았다

여러 도구가 선언된 상태에서 특정 도구 선택을 강제하는 테스트는 개발진 발표 기준 이전 버전의 24회 중 0회 성공에서 24회 중 24회 성공으로 바뀌었다. 도구를 쓰라고 지정해도 실행으로 이어지지 않던 요청을 처리하는 데 직접 관계된 수정이다.

Claude Desktop이 전달하는 모델 이름은 현재 불러온 모델로 연결되도록 고쳤다.

도구 호출 시작 태그도 더 다양하게 읽는다. 외부 도구 연결 규약인 MCP의 도구 이름은 마지막 부분만 제시돼도 그렇게 끝나는 도구가 정확히 하나일 때 연결한다.

Anthropic 형식의 도구 결과는 호출 식별자, 도구 호출을 구분하는 값을 따라 원래 요청과 연결한다.

선언되지 않은 도구 호출은 기본적으로 문장으로 반환하되, 사용자가 호출 형태로 돌려받도록 선택할 수 있게 했다.

4. 출력 이득과 손실은 작업에 따라 갈렸다

개발진 발표 기준 RTX 3060 12GB와 UD-IQ4_XS-v31의 작업별 출력 변화는 다음과 같다. 코드 생성과 에이전트, 도구를 골라 작업을 수행하는 프로그램 작업을 많이 쓰는 사용자에게는 입력 처리뿐 아니라 출력에서도 이득이 나타났다.

표: 같은 카드·모델의 작업별 출력 속도 변화

조건: RTX 3060 12GB, UD-IQ4_XS-v31, 0.2.11 대비 0.2.12 후보, 2~3회 실행, 실행마다 엔진 재시작·버전 실행 순서 교대, 최고 확률 토큰 선택으로 300토큰 생성, 버전별 기기 설정 적용

단위: %

출력 이득과 손실은 작업에 따라 갈렸다
작업출력 속도 변화
코드 생성+37
에이전트+34
JSON 추출-18.9

Strix Halo의 UD-IQ4_XS-v31 도구 호출은 개발진 발표 기준 9.5% 느려졌으며, 개발진은 조정된 보조 모델이 이 손실의 원인이라고 측정 결과를 설명했다.

이 성능 비교는 최종 엔진 패키지에서 재측정한 값이 아니라 새 후보의 결과이며, 이후 엔진 소스 변경은 버전 번호와 구형 엔비디아 카드용 빌드 수정 두 건에 그쳤다.

5. 앱이나 터미널에서 업데이트한다

앱 안에서 업데이트하거나 터미널에서 다음 명령을 실행하면 된다. 앱과 터미널의 버전은 0.2.12이며, 컨트롤과 엔진 패키지는 0.1.58이다.

strata update

조정본은 자동 모드가 처음 필요로 할 때 한 번 내려받는다. 자동 선택으로 직접 설정하는 수고를 줄이는 대신 일반 파일은 0.34GB, 인텔 Arc용은 0.52GB의 다운로드가 추가된다. 인터넷이 없으면 표준 보조 모델이나 기존 예측 방식으로 동작하며, 기존 예측 방식을 직접 선택하면 조정본을 내려받지 않는다.

Strata 0.2.12는 입력 대기와 도구 연결을 개선한 업데이트로, 도입 판단의 기준은 최고 속도보다 자주 쓰는 작업의 성능 변화다.