LocalAI 4.11.0: 로컬·원격 장애 전환, 응답 시작 전 오류만 재시도
LocalAI 4.11.0은 한 모델명에 로컬·원격 모델을 순서대로 연결하는 장애 전환 기능을 추가했다. 다만 응답 전송이 시작되기 전의 일부 오류에서만 다음 모델로 넘어간다.
devotd.
로컬 AI
주제별 새 소식과 판단에 필요한 맥락을 모았다.
devotd.
주제별 새 소식과 판단에 필요한 맥락을 모았다.
LocalAI 4.11.0은 한 모델명에 로컬·원격 모델을 순서대로 연결하는 장애 전환 기능을 추가했다. 다만 응답 전송이 시작되기 전의 일부 오류에서만 다음 모델로 넘어간다.