Windows 10/11 MIT with Commons Clause 凭据仅存本地

把多个上游账号收敛成一个本地 OpenAI 端点

在一个桌面工作台里管理整个上游账号池,由本地反代服务统一做调度、冷却与配额分发。所有客户端只需要一个地址、一个 Key。

凭据、Token 与 Key 只保存在本机,不上传 默认监听 127.0.0.1:11435 服务需手动启动,不随软件自启
01Live request

一条真实请求,在你自己的机器上跑完

左边是客户端,右边是上游。中间那段路——鉴权、选号、冷却、配额、重试——全部发生在本机。 127.0.0.1:11435 是它唯一的入口,客户端不需要知道后面有几号账号。

codeproxy — POST /v1/chat/completions 200 OK
$ curl -sN http://127.0.0.1:11435/v1/chat/completions \ -H "Authorization: Bearer sk-cr-local" \ -H "Content-Type: application/json" \ -d '{"model":"auto","stream":true,"messages":[{"role":"user","content":"hi"}]}' ↳ PICK account 3/6 · scope ✓ · probe ✓ · quota ✓ · model ✓ ↳ ROUTE strategy=session · affinity → #3 · cache=hit HTTP/1.1 200 OK content-type: text/event-stream data: {"id":"cmpl_7f2a","delta":{"content":"好"},"index":0} data: {"usage":{"prompt":18,"completion":264,"total":282}} data: [DONE]
model auto stream true 282 tok 842 ms
02Request path

请求出发、绕一圈、再回到你

绿色方块是你发出去的请求,蓝色方块是回来的响应。四个盒子之间真正被跨越的只有最后一跳——前面三跳都停在本机。

01 CLIENT base_url = :11435/v1
02 LOCAL 127.0.0.1:11435
03 ACCOUNT POOL scope · quota · cooldown
04 UPSTREAM selected by strategy
request response only the last hop leaves this machine
03By the numbers

把开销按格子摊开看

本地反代多做一次调度,代价是一点毫秒;换回来的是一池账号的统一出口。数字滚到位时,条子会跟着推到对应比例。

<5ms
本地调度开销
Local overhead
6acct
一个池子里轮换的账号
Account pool
42%
提示缓存命中率
Cache hit
24models
自动同步的上游模型
Catalogue synced

以上取自工作台的演示读数,用于展示数字的呈现方式 · sample values

04Get started

先把地址收成一个,再谈别的

下载后做三件事:添加账号、启动本地服务、把客户端的 base_url 指过来。整个过程不需要配置任何环境变量。

$ open codeproxy.top/download