LocalAI가 브라우저를 닫아도 대화 작업을 이어가는 기능과 데스크톱 앱을 공개했다. 개인 사용자는 앱에서 모델 서버를 설치하거나 다른 서버에 연결할 수 있고, 기존 서버를 운영하는 팀은 대화·에이전트 연동과 데이터 이전을 준비해야 한다.

1. 대화 작업의 중심이 브라우저에서 서버로 옮겨간다

LocalAI 프로젝트가 11월 18일 공개한 v5.0.0에서는 서버가 대화 기록과 실행을 맡는다. 사용자가 브라우저 탭을 닫아도 작업이 계속되는 구조다. 응답 생성 중에 보낸 메시지는 대기열에 들어가며, 모델의 다음 실행 단계에 전달되기 전에 수정하거나 버릴 수 있다.

모델은 하위 에이전트에 일을 나눠 줄 수 있고, 백그라운드에서는 최대 네 개를 실행한다. 긴 대화는 압축해 이어간다. 목표를 지정하는 /goal은 여러 차례에 걸쳐 작업을 진행하며 기본 한도는 20턴, 400단계다.

마이크와 음성 인식·음성 출력 모델을 갖추면 손을 쓰지 않고 음성으로 대화할 수 있다. 오디오는 사용자의 LocalAI 서버에 머문다.

2. 데스크톱 앱에서 서버 설치와 연결을 고른다

새 앱은 애플 실리콘 맥과 리눅스의 프로세서 명령어 구조 규격인 x86-64·ARM64 환경에 제공된다. 첫 실행 때 이 컴퓨터에서 서버를 돌릴지 다른 서버에 연결할지 고른다. 서버 설치·갱신·시작·종료를 앱에서 처리하며 여러 서버를 등록해 관리할 수 있다.

기존 런처에서 새 앱으로 바꾸려면 새 파일을 한 번 내려받는다. 모델과 백엔드, 실제 처리를 맡는 내부 구성 요소의 설정은 기존 폴더에 남는다. 데스크톱 앱 대신 서버를 직접 설치하는 원문의 명령은 다음과 같다.

curl -sSL https://localai.io/install.sh | sh

3. 파일과 프로젝트를 대화에 연결한다

파일 화면은 폴더·파일 업로드, 미리 보기, 문서 본문 검색을 제공한다. 사용자가 바꾼 내용과 모델이 바꾼 내용은 같은 변경 이력에 남아 되돌릴 수 있다. 대화에서 다루는 파일을 별도 작업 화면에서도 관리하는 방식이다.

추가 설치하는 Simple Office는 워드·엑셀·파워포인트 문서를 읽고 편집하고 만든다. 사용자가 가진 서식 파일로 발표 자료를 만들 수도 있다.

리눅스용 샌드박스, 다른 시스템과 분리해 실행하는 환경은 파일을 연결한 격리 실행 공간에서 파이썬과 셸 명령을 실행하며, 기본 설정에서는 네트워크를 차단한다.

프로젝트는 한 폴더를 중심으로 대화를 묶고, 대화가 매 차례 읽을 메모를 보관한다. 모델이 메모 변경을 제안하면 사용자가 승인한 뒤 저장한다.

계정이 있는 서버에서는 폴더와 저장된 에이전트 등을 특정 사용자나 전체에 공유할 수 있다.

4. 기존 대화·에이전트 연동은 이전 절차를 거친다

일반적인 모델 호출과 서버의 대화 관리 기능은 업그레이드 영향이 다르다. OpenAI 호환 /v1/chat/completions는 그대로 유지된다. 반면 기존 대화·에이전트 관리 API 일부는 제거돼 새 경로로 옮겨야 한다.

예전 /api/agents와 /api/conversations 요청은 404를 반환한다.

새 구조에서는 /api/chats가 대화를, /api/chats/agents가 저장된 에이전트를 다룬다.

첫 실행 때 서버는 디스크와 데이터베이스의 기존 데이터를 새 대화·에이전트 구조로 변환하고 원본은 보존한다. 자동 실행 항목과 외부 도구 연결 등은 변환 후 꺼진 상태이므로 운영자가 검토한 뒤 다시 켠다. 브라우저에만 있던 대화는 별도로 가져온다.

자료를 모아 관리하는 단위인 컬렉션 관리 API의 옛 경로는 폐기 예정 알림을 붙여 계속 동작한다. 설정도 옛 이름이 경고와 함께 호환되는 항목과 더는 반영되지 않는 항목이 있어 이전 안내를 확인해야 한다.

음성 구성에서는 liquid-audio 백엔드가 제거됐다. 릴리스 안내는 llama-cpp 기반의 새 음성 모델을 대체 경로로 제시한다.

Studio와 Talk은 별도 애드온, 기능을 덧붙이는 설치 요소로 옮겨져 관리자가 설치하고 사용자에게 이용 권한을 부여한다.

프로젝트 폴더는 대화를 정리하는 단위이지 파일 접근을 막는 권한 경계는 아니다. 기존 LFM2-Audio와 LFM2.5-Audio에는 대체 모델이 없다.

5. 기능 확장의 이익과 기존 운영의 비용이 함께 커진다

프로젝트 릴리스 노트의 개발 규모 수치는 v4.12.1과 릴리스 준비 시점의 비교다. 아래 표는 이 비교 범위의 변경량과 모델 항목 수를 정리한다.

표: LocalAI v5.0.0의 개발 규모와 모델 라이브러리 변화

조건: v4.12.1과 릴리스 준비 스냅샷 비교, 프로젝트 릴리스 노트 기준

단위: 건(요청·커밋), 개(파일·모델 항목)

기능 확장의 이익과 기존 운영의 비용이 함께 커진다
항목값
병합된 변경 요청130
병합 커밋을 제외한 커밋1,432
변경된 파일7,310
기능 추가 변경 요청41
사용자 대상 수정 변경 요청35
이전 모델 라이브러리 항목2,212
새 모델 라이브러리 항목2,325
추가 모델 항목134
제거 모델 항목21

릴리스 노트 기준 백엔드는 80개를 넘는다. 모델 라이브러리는 추가와 제거를 함께 거쳤다. 이번 전환은 모델 선택지를 넓히는 일에 더해, 서버가 대화 실행과 파일 작업을 함께 맡도록 사용 흐름을 바꾸는 데 무게가 실린다.

사용자는 탭을 열어 두지 않고 작업을 이어가고 앱에서 서버를 관리하는 편의를 얻는다. 그 대가로 기존 운영팀에는 연동 수정과 데이터 변환 점검, 애드온 설치·권한 관리가 전환 작업으로 붙는다.

LocalAI v5.0.0의 도입 가치는 대화의 지속성과 관리 편의에 있으며, 기존 운영팀의 전환 범위는 사용하는 연동과 운영 방식에 달려 있다.