Windows 10/11
MIT with Commons Clause
凭据仅存本地
把多个上游账号收敛成一个本地 OpenAI 端点
在一个桌面工作台里管理整个上游账号池,由本地反代服务统一做调度、冷却与配额分发。所有客户端只需要一个地址、一个 Key。
01Live request
一条真实请求,在你自己的机器上跑完
左边是客户端,右边是上游。中间那段路——鉴权、选号、冷却、配额、重试——全部发生在本机。
127.0.0.1:11435 是它唯一的入口,客户端不需要知道后面有几号账号。
codeproxy — POST /v1/chat/completions
200 OK
$ curl -sN http://127.0.0.1:11435/v1/chat/completions \
-H "Authorization: Bearer sk-cr-local" \
-H "Content-Type: application/json" \
-d '{"model":"auto","stream":true,"messages":[{"role":"user","content":"hi"}]}'
↳ PICK account 3/6 · scope ✓ · probe ✓ · quota ✓ · model ✓
↳ ROUTE strategy=session · affinity → #3 · cache=hit
HTTP/1.1 200 OK
content-type: text/event-stream
data: {"id":"cmpl_7f2a","delta":{"content":"好"},"index":0}
data: {"usage":{"prompt":18,"completion":264,"total":282}}
data: [DONE]
model auto
stream true
282 tok
842 ms
02Request path
请求出发、绕一圈、再回到你
绿色方块是你发出去的请求,蓝色方块是回来的响应。四个盒子之间真正被跨越的只有最后一跳——前面三跳都停在本机。
01
CLIENT
base_url = :11435/v1
02
LOCAL
127.0.0.1:11435
03
ACCOUNT POOL
scope · quota · cooldown
04
UPSTREAM
selected by strategy
request
response
only the last hop leaves this machine
03By the numbers
把开销按格子摊开看
本地反代多做一次调度,代价是一点毫秒;换回来的是一池账号的统一出口。数字滚到位时,条子会跟着推到对应比例。
<5ms
本地调度开销
Local overhead
6acct
一个池子里轮换的账号
Account pool
42%
提示缓存命中率
Cache hit
24models
自动同步的上游模型
Catalogue synced
以上取自工作台的演示读数,用于展示数字的呈现方式 · sample values
04Get started
先把地址收成一个,再谈别的
下载后做三件事:添加账号、启动本地服务、把客户端的 base_url 指过来。整个过程不需要配置任何环境变量。
$
open codeproxy.top/download