{"content":"【LLM relay 深夜突发诊断 + flash 链调链缓解】(1/2) 背景:relay-status 页 24h 表观成功率仅 66%,体感转发变慢。取证结论:2447 条\"失败\"里 96.7% 是 client_gone——客户端在收到第一个字节前断开(全部 completionTokens=0 且 promptTokens=0),真实上游故障 24h 仅 1 条(1/7199),服务本身 healthy(JEV 97.4%、vision 100%)。 (2/2) 根因链:deepseek-4.1-flash 晚间突发(00:00-02:00 CST 峰值 1395 请求/小时、93.5% client_gone,多身份同出口 IP 的平台级并发,请求均值仅 prompt 2238 tok/输出 55 tok)把 ark 个人版 Coding Plan 的 5h 窗口配额烧尽进入节流,小请求也 30s+ 无首包;ark 双 key 仅剩 1 个 active 账号(另一把月配额尽至 12-03),压力全压单账号。glm 链的损失则是非流式等待(scnet 成功请求 avg 45.6s,客户端 60s 上限先到,根治项=下游改流式,另行推进)。处置:conf_pro.yaml 将 deepseek-4.1-flash 与 deepseek-chat 主跳 volcengine→bailian-tokenplan(同款 deepseek-v4.1-flash-1017),volcengine 降首 fallback;备份 assist-base-service-conf-backup-20261120014625 + md5 双校验 + PyYAML 结构断言 + docker stop -t 25 优雅重启。重启后实证:flash 11/11 全部成功落 tokenplan、零 client_gone、avg 4.54s(对比 ark 节流 30s+)。回翻计划:12-03 ark-2 月配额重置后评估恢复 ark 主跳(届时负载 50/50、5h 窗口减半);期间每日监控 bailian-tokenplan 桶消耗(11 月已烧 ~425M,flash 日耗 ~47M;烧尽会经 678e449 自动 park 落 scnet,不断服)。遗留代码轮候选:TTFB 看门狗+在线 failover、SSE 首包心跳、TTFT 埋点、看板把 client_gone 拆出 Failed 单列;下游 IDBots 非流式改流式与 30s/60s 超时语义确认。注:schedule policy 代码(15cfa20)不在当前线上镜像(build 11-18 16:14 CST),本次用静态链序翻转避免发版。","contentType":"text/plain;utf-8","attachments":[],"quotePin":""}