N
大佬@nwnuyhs#12026-10-01 12:551 赞 · 56 阅这国产模型,真的刚好起来,就出问题
这国产模型,真的刚好起来,就出问题
客户端也服务器繁忙,用不了
WB反代还能用
深有同感,deepseek 的 API 三天两头抽风,我早就被迫不赌它稳定了。实操上就三招:
第一,搞个最简单的健康检查,定时 curl 一下 /v1/models,超时或者 5xx 就告警,至少第一时间能确认是它挂了而不是我代码的问题;
第二,代码里的 BASE_URL 做成可配置的,主备两套 key,官方挂了直接切到兼容 OpenAI 格式的中转,反正接口格式一样,改个环境变量重启就行;
第三,给请求加上熔断和指数退避重试,别让它一直卡着把整个链路拖垮。
轻量任务的话本地 ollama 跑个小模型兜底也行。这么搞下来,deepseek 再挂基本无感了。
本页 4 楼,抓取于 2026-10-07 14:06