这两天,打开 ChatGPT,大概率看到这行字:
Selected model is at capacity. Please try a different model.

不挑入口。ChatGPT Web 碰到了,Codex 碰到了,ChatGPT Work(企业版)也碰到了。不挑订阅档位——20 美元的 Plus、200 美元的 Pro,一视同仁。上下文自动压缩,正在重新连接 1/5,87 秒后重试。连着弹三四条,你盯着屏幕干等。

不是偶发。不是你一个人。9 月 14 号到 15 号,连续两天,OpenAI 全线产品大面积撞上这面墙。我自己的产品后台配了 10 个 Pro 账号做轮转路由,过去 48 小时的错误率在 10% 上下。十次请求,有一次被弹回来。
朋友圈有人说”GPT 5.6 这两天质量差”。准确说不是质量差——是根本没轮到你。请求发出去,服务器还没开始算,就把你挡在门外了。

我在做 Zaokit Token Hub 的过程中,跟中转服务商聊得多。把几段对话拼起来,事情的轮廓就出来了。
我们后台对每个用户的 session ID 做路由,分配到不同的 Pro 账号上。这样做有两个好处:缓存命中率高,并发扛得住。10 个 Pro 账号轮转,按理说足够了。
但 OpenAI 算力紧张,我们也没办法。
有人问:不是用 AWS Bedrock 吗?怎么跑到 OpenAI 的账号上了?
两条渠道。一条是 OpenAI Pro 账号池,成本低,但受限于 Pro 的算力分配。另一条是 Bedrock 渠道,走 AWS 官方,按 token 计费,1.05 美元兑 1 美元——相当于官方原价加 5% 手续费。Bedrock 渠道没有 overload。OpenAI 官方 API 渠道也没有 overload。
两个都没有 overload 的渠道,和一个 overload 到 10% 错误率的渠道。差别在哪?
钱。
Pro 订阅 200 美元一个月。听起来不便宜。但算一笔账。
GPT-6 Astra 的推理成本,业内估算大约是每百万 token 15 到 30 美元(取决于上下文长度和推理强度)。一个 Pro 用户如果跑满,一个月的推理消耗远超 200 美元。OpenAI 的 Pro 定价从第一天起就是亏本获客——用低价吸引开发者和重度用户进入生态,靠 API 端的商业客户赚钱。
这个模型在算力充裕的时候没问题。算力紧了,矛盾就暴露了。
100K 张 GPU 跑满。Stargate 的 400K 张卡还在德州工地上。供给追不上需求的时候,谁先被限流?
答案写在商业逻辑里:优先保 API 商业客户。他们付的是真金白银的 token 费用,带 SLA,有合同。Pro 用户付的是固定月费,没有 SLA,用多少算多少。
200 美元买的不是无限算力。是一张排队号。

算力充裕的时候,排队号等于即时通行。算力紧张的时候,排队号就是排队号。

社群里有人不服。”我花了 200 美金,凭什么给我 overloaded?”
这种心情我理解。但换个角度想。
一个 Pro 账号,月费 200 美元,理论上可以发几千次请求。如果每次请求的推理成本平均 0.1 美元,发 2000 次就是 200 美元。但很多用户不止 2000 次。有人拿 Pro 跑 Agent 任务,一晚上就能烧掉几百次长上下文请求。
OpenAI 在定价的时候,赌的是大部分用户不会跑满。实际情况是,GPT-6 Astra 太强了,大家都在跑满。
有人在群里说了一句话,我觉得说到了点上:
“买了 200 美元还想用 2000?商业服务本来就是市场供需决定的。”
刺耳。但真实。
便宜、好用、速度快——不可能三角。Pro 做到了”便宜”,在算力紧张的时候,”好用”和”速度快”就保不住了。API 渠道做到了”好用”和”速度快”,但价格高。Bedrock 做到了”稳定”和”好用”,但比 Pro 贵得多。
你想要哪两个?
我不是来替 OpenAI 说话的。server_is_overloaded 连续两天,用户体验确实烂。Pro 用户花了钱,有权骂。
但骂完之后,该想想怎么办。

我自己的做法,也是我在 Zaokit Token Hub 里给企业客户做的方案:多渠道路由。
Pro 账号池做日常消耗,成本低。当 Pro 渠道返回 overloaded,自动切到 API 或 Bedrock 渠道。API 渠道稳定,价格和 Bedrock 一致。Bedrock 走 AWS 官方,没有 overload,按 token 计费。
三条路,任何一条堵了,自动走另外两条。用户无感。
这不是什么高深的架构。就是把鸡蛋分到三个篮子里。上周我写《AI Agent 帮我操作 Gmail,Google 直接封了我 12 年的号》的时候说过同样的话——分散风险。那篇讲的是账号安全,这篇讲的是算力供给,底层逻辑一样。
单点依赖,迟早出事。
群里还有个有意思的实践建议,我觉得值得分享。
用 Fable 5.1 做原型和 Plan,交给 GPT-6 Astra Medium 执行。
Fable 5.1 擅长理解需求、做交互设计、写 Plan。Astra Medium 擅长执行——代码生成、长文本处理、工具调用。两个模型搭配,Fable 负责想,Astra 负责干。
这个组合有两个好处。一是 Fable 5.1 走 Anthropic 的算力,不受 OpenAI overload 影响。二是 Astra Medium 的算力需求比 Astra 本体小,排队压力低。
我在 Zaokit.app 的 PPT 生成流程里试了这个组合。Plan 阶段用 Fable 5.1 出大纲和设计稿,执行阶段用 Astra Medium 生成内容和排版。效率比单用一个模型高,成本比全用 Astra 低。
多模型协作不是噱头。是 2026 年做 AI 产品的基本功。
最后说一个看法。
OpenAI 这次 overload 不是事故。是结构性矛盾的表面化。
GPT-6 Astra 上线之后,Pro 暂停新订阅(9 月 11 号的事,我写过)。现有 Pro 用户的使用量还在涨。100K 张 GPU 跑满了,400K 张卡还没上线。需求曲线和供给曲线之间的缺口,在未来几个月会持续存在。
server_is_overloaded 不会是最后一次。
对个人用户来说,能做的就是降低对单一渠道的依赖。对企业来说,把 AI 服务的可用性交给一个订阅计划,本身就是风险。
Zaokit Token Hub 做的事就是帮你管这个风险。多模型、多渠道、自动路由、成本透明。不是哪家的代理商,是帮你在 OpenAI、Anthropic、AWS 之间做最优选择的中间层。
薅羊毛不可持续。稳定、靠谱、可持续的 AI 服务,才是长期答案。
如果你也被 server_is_overloaded 折磨够了,试试 Zaokit AI Token Hub——多模型、多渠道、自动路由,OpenAI 挂了自动切 Bedrock 或官方 API,用户无感。稳定靠谱,按量计费,不吃 overload 的亏。
我一个人打造的 Zaokit AI Agent 交易平台,以及 AI PPT / 图文创作 Zaokit.app、你的数字分身,助力大家高效完成图文创作和 PPT 生成。唯一网站:https://zaokit.app。
企业侧同一逻辑,已经融进可直接接入的服务:
稳定靠谱的 AI 全家桶,开箱即用。
如果你认可 Zaokit AI 的产品理念,欢迎后台留言加入社群。我们不卖课、不割韭菜,只聚焦 ToB 企业场景的 AI 落地实战。
延伸:ChatGPT Pro 停了,但 Agents API 来了 · AI Agent 帮我操作 Gmail,Google 直接封了我 12 年的号 · Dario Amodei 亲手打开潘多拉魔盒,现在喊停来得及吗
| 唯一网站:Zaokit.app | Agent 交易平台:Zaokit.ai |
企业 Grok 服务:grok.zaokit.com
企业服务:cowork.zaokit.app · cx.zaokit.com · cc.zaokit.com · tokenhub.zaokit.ai · gift.junxinzhang.com · 完整产品列表
稳定靠谱的 AI 全家桶,开箱即用。
我是 Jason,自己一个人做 AI 产品。server_is_overloaded 不可怕,可怕的是你只有一条路。