NVIDIA-Nemotron-Labs-Dory1.0-4B: 반복 횟수 조절, 마지막 반복 캐시
엔비디아가 재학습 없이 내부 반복 횟수를 바꿔 정확도와 연산량을 조절하는 40억 매개변수 언어 모델을 공개했다. 마지막 반복만 저장하는 캐시와 여러 정밀도의 배포본을 제공하지만 실제 응답 시간과 비용은 작업별로 평가해야 한다.
devotd.
2026-10
한국 시간(KST) 기준 날짜별 글입니다. 소급 작성한 글은 대상 날짜와 실제 발행 시각을 구분해 표시합니다.
대상 날짜별 글
104 개의 글KST · 계속
OpenCode Console: 외부 키 노출, 제공자 키 폐기·교체
보안 침해로 전체 콘솔 사용자의 1.4%가 영향을 받았으며, 대상은 외부 AI 서비스를 연결한 사용자 일부다. 통지를 받은 사용자는 제공자 관리 화면에서 키를 폐기·교체하고 최근 사용 내역과 연결된 애플리케이션을 점검해야 한다.
NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB: 2비트 학습 기반 압축, 로컬 시각언어 에이전트
엔비디아가 화면 이해와 도구 호출을 개인 기기에서 처리하도록 설계한 24GB 시각언어 모델을 공개했다. 큰 모델을 압축하고 양자화 오차를 학습으로 보정했다. 터미널 작업 평가에서 Bolt는 Qwen3.6보다 높은 점수를 냈지만 일부 지식 정확도·환각 억제 항목에서는 뒤졌다. 별도의 저정밀도 속도 실험에서는 두 소형 전문가 모델보다 느렸다.
Beam 1.0: 세 정밀도 가중치 공개, Apache 2.0 기반 자체 호스팅
리플렉션이 첫 공개 가중치 모델을 세 가지 정밀도로 배포해 자체 호스팅과 추가 학습 경로를 열었다. 배포 통제권을 얻는 대신 운영팀은 하드웨어 구성과 업무별 품질·안전성을 직접 확인해야 한다.
Claude Code 2.1.302: 자동 모드·유휴 압축 설정, 대기·이미지 읽기 상한
클로드 코드가 자동 모드의 판단 모델을 고르는 설정과 유휴 대화 압축을 켜고 끄는 항목을 추가했다. 앞 버전의 무인 재시도 대기 상한과 함께, 이번 버전에는 128 MB를 넘는 이미지 소스를 거절하는 제한이 적용됐다.
KTransformers v0.7.2: CPU 압축 전문가 LoRA 학습, 학습 도구와 추론 어댑터 연결
대형 언어 모델의 전문가 가중치를 CPU에 압축 상태로 유지하면서 작은 보정 가중치만 학습하는 경로가 추가됐다. 학습 결과의 저장과 추론 연결도 지원하지만 전체 모델의 품질과 처리량 측정 결과는 제시되지 않았다.
Intel LLM-Scaler vLLM 1.5: 추론 엔진 기반 갱신, 모델·양자화 지원 확대
인텔이 로컬 언어 모델 추론 패키지의 기반 엔진을 갱신하고 지원 모델과 저정밀도 실행 경로를 넓혔다. 답변 생성 가속과 맞춤 모델 서빙 기능도 제공하지만 데모용 이미지라는 성격과 모델별 실행 조건을 확인해야 한다.
KST
Granite Switch 4.1: 대화·판단·음성 인식 통합, 공개 가중치
IBM의 새 공개 가중치 모델은 대화와 선택지 판단, 음성 인식을 같은 접속점에서 제공한다. 서버 구성을 단순화할 수 있지만 응답별 처리 방식과 영어 음성 입력의 제약을 고려해야 한다.
llama.cpp b11709: Kolibri-1 지원, GGUF 변환 경로 추가
독일어·영어 공개 가중치 모델을 로컬 추론 도구에서 변환하고 실행하는 지원이 추가됐다. 토큰당 계산에는 일부 파라미터만 쓰지만 전체 가중치를 담을 메모리와 실제 사용 환경의 검증은 별도로 고려해야 한다.
Strata 0.1.45: Qwen3.6-35B-A3B 이미지 입력, 최대 8개 동시 요청과 생성 가속
로컬 언어 모델 실행 도구가 그림 입력과 최대 8개 요청의 동시 처리를 추가하고 답변 생성 속도를 개선했다. 메모리가 부족하면 동시 처리 설정이 단일 요청을 느리게 할 수 있어 장비와 사용 패턴에 맞춘 선택이 필요하다.