新增的连接功能让运行在 Fly.io 隔离虚拟计算机中的智能体可以使用 Ollama 云端模型。开发者可以授予模型访问权限,同时不必将密钥放入智能体的运行环境。
1. 连接运行空间与模型的连接器
Ollama 于 2026年10月13日发布了面向 Sprites 的连接器。Sprite 是一种会在会话结束后保留磁盘的 Linux 虚拟机。它是供智能体执行命令的隔离工作间,而新连接器则是从该工作间调用外部云端模型的通道。
公告列举的支持模型包括 kimi-k3 和 glm-5.3。这并非在本地安装模型,而是由虚拟机中的代码通过名为网关的中转节点向云端发送请求。Ollama 文档也说明,使用云端模型无需本地 GPU。
2. 传递中转地址,而非密钥
用户将 Ollama API 密钥注册到 Fly.io 组织后,平台会加密存储,且不会通过 API 返回密钥。网关确认发起调用的 Sprite 后,会将密钥附加到请求中。运行环境中只保留网关地址和连接 ID。
关键在于不把钥匙交给智能体,而是让获准的工作间使用中转窗口。新连接器默认不允许任何 Sprite 访问。用户可通过标签或名称前缀选择授权对象,也可允许全部 Sprite 访问,且调用只能在 Sprite 内部进行。
这种方式不在运行环境中存放该密钥,从而减少经由智能体泄露密钥的途径,但也意味着将密钥保管和请求认证交给 Fly.io。隐藏密钥并不等于取消模型使用权限,因此允许全部访问应被视为向组织内所有 Sprite 开放该连接的决定。
3. 注册连接并从内部调用
需要准备 Ollama API 密钥和至少一个 Sprite。在 Fly.io 控制面板的 Sprites 菜单中打开 Connectors,填写密钥并添加连接器。随后在访问设置中选择使用对象并保存,再通过对象旁的可达性测试确认连接。
连接器页面会显示已填入连接 ID 的命令。以下原样引用公告中的示例,需在 Sprite 内执行。没有认证请求头,是因为网关会代为附加密钥。
curl "https://api.sprites.dev/v1/gateway/ollama/<connection_id>/v1/chat/completions" \
-H "Content-Type: application/json" \
-d '{"model": "kimi-k3", "messages": [{"role": "user", "content": "Hello!"}]}'使用现有 OpenAI SDK 的代码也能接入。只需将调用目标改为网关,Ollama 原生 API 路径也支持通过该网关中转。
具体而言,将 base_url 设为网关地址,并在 api_key 中填入任意值。该值不是真正的密钥,认证由网关使用此前注册的密钥完成。
内置的编码智能体技能会向智能体说明 Ollama 的使用方法。据公告所述,获准访问的 Sprite 可通过该技能使用模型,无需额外配置。但这并不意味着可以跳过连接器注册和访问授权流程。
4. 资源费用与运维责任依然存在
Sprites 按实际使用的 CPU 时间、内存和存储空间计费。即使停止运行后不产生计算费用,仍可能产生存储费用。因此,不应仅因虚拟机处于空闲状态,就认为所有费用都会消失。
Ollama 公告提供了价格页面的指引,但没有列出云端模型的具体费用。连接器的优势不在于模型调用速度或价格,而在于密钥存放位置和访问控制方式的变化。
该连接器在保留智能体模型访问能力的同时,将密钥管理移出运行环境,但授权对象和资源费用仍由用户管理。
