Perplexity pplx-decider-v1.2: 질문 묶음 처리, 학습 데이터 재구성
Perplexity가 같은 상황에 관한 여러 질문을 한 번에 판단하도록 요청 형식과 학습 데이터를 바꿨다. 관련 속성은 함께 묻되 독립 후보는 따로 평가하는 편이 유리하며, 긴 입력과 실행 경로에 따른 결과 차이는 확인해야 한다.
devotd.
LLM
주제별 새 소식과 판단에 필요한 맥락을 모았다.
대상 날짜별 글
22 개의 글Nemotron-pretraining-Indic-v1: 2.8조 토큰 코퍼스, 공개 데이터 생성 파이프라인
NVIDIA가 인도 22개 언어를 위한 약 2.8조 토큰의 번역 기반 학습 자료와 공개 생성 절차를 소개했다. 공개 예정인 자료는 현지에서 직접 작성된 텍스트를 보완하며, 보고된 성능 향상은 두 종류의 자료를 함께 사용한 학습 단계의 결과다.
Beam 1.0: 세 정밀도 가중치 공개, Apache 2.0 기반 자체 호스팅
리플렉션이 첫 공개 가중치 모델을 세 가지 정밀도로 배포해 자체 호스팅과 추가 학습 경로를 열었다. 배포 통제권을 얻는 대신 운영팀은 하드웨어 구성과 업무별 품질·안전성을 직접 확인해야 한다.
Granite Switch 4.1: 대화·판단·음성 인식 통합, 공개 가중치
IBM의 새 공개 가중치 모델은 대화와 선택지 판단, 음성 인식을 같은 접속점에서 제공한다. 서버 구성을 단순화할 수 있지만 응답별 처리 방식과 영어 음성 입력의 제약을 고려해야 한다.
DeepSeek-V4.1-Flash-1017: 코딩 성능·속도 개선, 검색·가져오기 API 공개
딥시크가 코딩 평가 점수를 높이고 작업 시간과 출력 길이를 줄였다는 새 모델을 공개했다. 웹 검색과 페이지 가져오기도 공개 API로 제공하며, 지정된 도구의 서버 측 호출에는 한시적 무료 정책을 적용한다.
NVIDIA TensorRT-LLM 1.4.0rc0: GLM-5.3-Flash 지원, KVCacheManagerV2 파이썬 구현 제거
새 모델의 텍스트·이미지·비디오 입력 지원이 추가됐다. 캐시 관리자의 파이썬 구현은 제거됐으며, 기존 설정과 이벤트 수집 경로는 업그레이드 전에 확인해야 한다.
Hugging Face Transformers v5.20.0: Muse Spark Open 지원, Ling 3.0 Flash 네이티브 로딩
트랜스포머스에 메타의 다중 입력 모델 지원과 인클루전AI 모델의 내장 로딩 경로가 추가됐다. 입력과 로딩 절차는 통합되지만, 실제 배포에서는 대형 모델의 메모리 요구와 전문가 병렬 추론의 속도 저하 경고를 따로 확인해야 한다.
NVIDIA Nemotron 3.5 Super VL 120B-A12B: 100만 토큰 하이브리드 MoE, 내장 MTP 추측 디코딩
엔비디아가 긴 문서와 이미지·영상을 처리하는 모델을 학습·평가용과 메모리 절감 배포용으로 공개했다. 내장 예측 기능으로 생성 가속을 시도할 수 있지만 실제 속도와 양자화에 따른 품질 변화는 배포 조건과 작업별로 판단해야 한다.
Boole-1.7B: 1비트 저장 GGUF 292.1MB, BF16 대비 평균 8.28점 하락
가중치의 부호를 1비트로 저장한 소형 언어 모델이 공개됐으며, CPU에서도 실행하는 배포 파일은 292.1MB다. 발표사 평가의 열 과제 평균은 원본보다 8.28점 낮았고, 실행 메모리와 생성 속도의 측정치는 제시되지 않았다.
FlashInfer v0.7.1: Rubin 양자화 전문가 병렬화 확대, 워크스테이션 통합 책임
모델의 전문가 연산을 여러 GPU에 나눠 실행하는 지원이 Rubin과 Blackwell 워크스테이션에서 확대됐다. 워크스테이션 경로는 입력 전달과 결과 합산을 호출자가 맡으며, 공개된 단일 계층 성능 수치는 분산 서비스 전체의 가속률이 아니다.