SGLang v0.5.21: 신규 모델 지원 확대, 캐시·요청 처리 기본값 변경
새 버전은 지원 모델을 늘리고 반복 입력 캐시와 요청 처리의 기본 동작을 바꿨다. 새 모델의 설치 안내에는 자료 간 차이가 있어 배포 구성 확인과 기존 서비스의 호환성 검사를 구분할 필요가 있다.
devotd.
한국 시간(KST) 기준 날짜별 글입니다. 소급 작성한 글은 대상 날짜와 실제 발행 시각을 구분해 표시합니다.
새 버전은 지원 모델을 늘리고 반복 입력 캐시와 요청 처리의 기본 동작을 바꿨다. 새 모델의 설치 안내에는 자료 간 차이가 있어 배포 구성 확인과 기존 서비스의 호환성 검사를 구분할 필요가 있다.
참여자의 브라우저에서 메시지를 암호화하고 서버에는 저장하지 않는 임시 채팅이 추가됐다. 관리자는 기능 활성화와 사용자 권한을 따로 설정하고 통신 환경도 점검해야 한다.
텐센트 헌위안이 장기 기억 시스템에서 저장할 정보를 고르고 갱신하는 전용 모델을 공개했다. 기존 기억 관리 체계의 작성 모델을 교체하는 방식으로, 평가에서는 고정된 표본에서의 성과와 검증 범위를 함께 살펴야 한다.
새 모델의 텍스트·이미지·비디오 입력 지원이 추가됐다. 캐시 관리자의 파이썬 구현은 제거됐으며, 기존 설정과 이벤트 수집 경로는 업그레이드 전에 확인해야 한다.
터미널 코딩 도구에 설정 검색 패널과 응답 도중 후속 지시를 반영하는 기능이 추가됐다. 설정 저장과 실제 적용을 구분하고, 작업 중단이 변경 사항의 자동 복구를 보장하지 않는다는 점에 주의해야 한다.
웹어셈블리나 실행 메모리를 지원하지 않는 환경에서 기능을 사용할 때 실패 원인을 구분하는 오류 처리가 개선됐다. 웹소켓 데이터를 가리고 되돌리는 내장 함수가 추가돼 라이브러리 개발자가 별도 확장 없이 연산을 옮길 수 있게 됐다.
비주얼 스튜디오 코드 1.142에서 새 에이전트 대화의 기본 실행 체계가 점진적으로 바뀌고, 사용자와 에이전트가 함께 수정하는 작업판이 미리보기로 추가됐다. 조직 정책에 따른 대화 자동 이전과 샌드박스의 실제 제한 범위를 확인해야 한다.
트랜스포머스에 메타의 다중 입력 모델 지원과 인클루전AI 모델의 내장 로딩 경로가 추가됐다. 입력과 로딩 절차는 통합되지만, 실제 배포에서는 대형 모델의 메모리 요구와 전문가 병렬 추론의 속도 저하 경고를 따로 확인해야 한다.
깃허브 코파일럿은 기기·클라우드 자동 배치를 2026년 10월 말까지 도입할 예정이다. 개발자는 모델 실행 위치와 명령 권한을 따로 판단해야 한다. 기기 측정과 다중 모델 연구 평가는 조건이 달라 구분해 읽어야 한다.
엔비디아가 긴 문서와 이미지·영상을 처리하는 모델을 학습·평가용과 메모리 절감 배포용으로 공개했다. 내장 예측 기능으로 생성 가속을 시도할 수 있지만 실제 속도와 양자화에 따른 품질 변화는 배포 조건과 작업별로 판단해야 한다.