GPUStack:API Key 怎么拿、怎么接进手机写小说

把家里或工作室的几台 GPU 机器组成带网页控制台的推理集群,统一部署模型、统一发 Key——比单机 ollama 多了多用户、多后端和配额管理,合租算力的小团队用它顺手。 本页是 GPUStack 的 BYOK 接入直答:取 Key 分步、控制台与定价页直链、接进 Foreverse 的注意事项。核实于 2026-07-18。

两个入口先放这:取 Key 去 官方下载页(本地运行,没有定价页——账单为零)。价格与免费额度随时会调,以官方页面实时为准。

在 Foreverse 里能用它做什么?

预置模板给 GPUStack 声明了 1 个模态位。实际可用模型以 App 内拉取的该家模型目录为准——各家上新很快,模板标记只代表接入协议已就绪。

模态在 App 里对应
文本续写 · 角色聊天 · Agent

GPUStack 怎么装、怎么让手机连上?

  1. 在有 GPU 的机器上一条 docker 命令起服务:docker run -d --name gpustack -p 80:80 -v gpustack-data:/var/lib/gpustack gpustack/gpustack。
  2. 执行 docker exec gpustack cat /var/lib/gpustack/initial_admin_password 拿初始密码,浏览器打开 http://<主机IP> 用 admin 登录。
  3. 在控制台里部署一个模型(多台机器可以加 worker 组成集群统一调度)。
  4. 控制台 Access Control → API Keys → New API Key,生成的 Key 只显示一次,当场复制。
  5. App 里 host 填 http://<主机IP>/v1(默认 80 端口;映射了别的端口就带上端口号),Key 填刚生成的。

拿到 Key 之后:接进 Foreverse 三步

  1. 打开 App 的设置 → AI 模型与服务,列表里找到 GPUStack(62 家预置之一,带 logo 可搜索)。
  2. 粘贴 Key,点「测连通」——发一次真实请求验证密钥与网络,顺手拉回这家的模型列表。
  3. 启用要用的模型,在「默认模型」里按模态分别指定(文本/生图/朗读/视频各设各的);之后续写、聊天、听书就都走这家了。

改 API 地址时的通用坑:地址必须带完整版本前缀(这家该是什么样,下面注意事项里写了),App 不会替你补 /v1。

GPUStack 专属注意

App 预置 host 留空(自部署地址自己填),填到 /v1 为止;与 ollama/LM Studio 不同,这家有真实的 API Key 鉴权体系。手机访问走内网 IP 或 Tailscale;不要把控制台端口直接暴露公网。

常见问题

GPUStack 有免费额度吗?

开源软件(Apache-2.0),没有 API 账单——成本是自己的硬件与电费。

填进 App 的 Key 存在哪里?

系统级加密后只存在你的手机本机,不上传、不同步到 Foreverse 任何服务器;请求从手机直连供应商官方端点,我们不经手也不加价。想撤销就去供应商控制台吊销那把 Key。

GPUStack API Key 怎么拿?取 Key 到手机接入全流程(BYOK) · Foreverse · 新梦