Ollama Cloud: Sprites 연결 지원, 게이트웨이 API 키 주입

1. 실행 공간과 모델을 잇는 커넥터

Ollama는 2026년 10월 13일 Sprites용 커넥터를 공개했다. Sprite는 세션이 끝나도 디스크가 유지되는 Linux 가상 머신이다. 에이전트가 명령을 실행할 격리된 작업실이며, 새 커넥터는 그 작업실에서 외부의 클라우드 모델을 부르는 통로다.

발표에서 지원 예로 든 모델에는 kimi-k3와 glm-5.3이 있다. 로컬에 모델을 설치하는 방식이 아니라, 가상 머신 안의 코드가 게이트웨이라는 중계 지점을 통해 클라우드로 요청을 보내는 방식이다. Ollama 문서도 클라우드 모델은 로컬 GPU 없이 사용할 수 있다고 설명한다.

2. 비밀 키 대신 중계 주소를 전달한다

사용자가 Ollama API 키를 Fly.io 조직에 등록하면 플랫폼이 이를 암호화해 저장하고 API로 돌려주지 않는다. 게이트웨이는 호출한 Sprite를 확인한 뒤 요청에 키를 붙인다. 실행 환경에는 게이트웨이 주소와 연결 ID만 남는다.

핵심은 에이전트에게 열쇠를 건네지 않고, 허가된 작업실에서 중계 창구를 이용하게 한다는 점이다. 새 커넥터는 기본적으로 어느 Sprite에도 접근을 허용하지 않는다. 사용자가 라벨이나 이름 접두사로 대상을 고르거나 전체를 허용하며, 호출은 Sprite 내부에서만 동작한다.

이 방식은 실행 환경에 해당 키를 두지 않아 에이전트를 통한 키 유출 경로를 줄이는 대신, 키 보관과 요청 인증을 Fly.io에 맡기는 선택이다. 키를 감춘다는 것이 모델 사용 권한까지 없앤다는 뜻은 아니므로, 전체 허용은 조직 내 모든 Sprite에 그 연결을 열어 주는 결정으로 봐야 한다.

3. 연결을 등록하고 내부에서 호출한다

준비물은 Ollama API 키와 하나 이상의 Sprite다. Fly.io 대시보드의 Sprites 메뉴에서 Connectors를 열고 키와 함께 커넥터를 추가한다. 이어 접근 설정에서 사용할 대상을 선택하고 저장한 뒤, 대상 옆의 도달 여부 테스트로 연결을 확인한다.

커넥터 페이지는 연결 ID를 채운 명령을 보여 준다. 다음은 발표에 실린 예시 그대로이며, Sprite 안에서 실행한다. 인증 헤더가 없는 이유는 게이트웨이가 키를 대신 붙이기 때문이다.

curl "https://api.sprites.dev/v1/gateway/ollama/<connection_id>/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -d '{"model": "kimi-k3", "messages": [{"role": "user", "content": "Hello!"}]}'

기존 OpenAI SDK를 쓰는 코드도 연결할 수 있다. 호출 대상을 게이트웨이로 바꾸면 되며, Ollama 고유 API 경로도 이 중계를 지원한다.

구체적으로는 base_url에 게이트웨이 주소를 지정하고 api_key에는 임의의 값을 넣는다. 이 값은 실제 비밀 키가 아니며, 인증은 앞서 등록한 키로 게이트웨이에서 처리한다.

기본 제공되는 코딩 에이전트용 스킬은 에이전트에게 Ollama 사용법을 알려 준다. 발표에 따르면 접근 권한이 있는 Sprite에서는 이 스킬을 통해 추가 설정 없이 모델을 쓸 수 있다. 다만 커넥터 등록과 접근 허용 절차를 생략한다는 의미는 아니다.

4. 자원 비용과 운영 책임은 남는다

Sprites 요금은 실제 사용한 CPU 시간, 메모리, 저장 공간을 기준으로 계산된다. 실행을 멈춘 상태에서 컴퓨팅 요금이 없더라도 저장 공간 비용은 남을 수 있다. 따라서 가상 머신이 유휴 상태라는 이유만으로 전체 비용이 사라진다고 해석해서는 안 된다.

Ollama 발표는 가격 페이지를 안내하지만 클라우드 모델의 구체적인 요금은 제시하지 않았다. 커넥터의 이점은 모델 호출 속도나 가격이 아니라 비밀 키를 배치하는 위치와 접근 통제 방식의 변화에 있다.

이 커넥터는 에이전트의 모델 접근은 유지하면서 비밀 키 관리를 실행 환경 밖으로 옮기되, 허용 대상과 자원 비용은 사용자가 관리하게 하는 연결 방식이다.