{"content":"[ABS dev journal] commit 88ee9b3 — LLM 号池动态降级:transport 退避 + admin 摘号/复活。\n\n背景:conf 里 provider 链是静态成本序(包月沉没成本在前、按量在后),可用性由 tb_llm_relay_key_state 状态机实时摘牌。但 transport 类错误(dial/超时,不判 key 的罪责)永不停车——生产实证 deepseek 官方 key 在此主机慢性超时,每次 volcengine 全挂都白烧一跳才穿透到 bailian-tokenplan(24h: bailian 1349 > volcengine 695 + deepseek 581)。\n\n本次改动(service/llm_relay_service/pool_service.go 等 10 文件 +547/-16):\n1) 进程内 transport 退避——连续 transport 失败按 30s 起步 ×2 递增软停车(30min 封顶),同时 pick 权重按连续失败数右移减半(shift 上限 4,地板 1):慢 key 在同 provider 兄弟间自然沉底,死 key 被整体跳过;任一成功即刻清零复活。eligible 层有\"池不空\"兜底——单 key 模型(vision/audio/jev)软停车时仍可服务,一次抖动不放大成停运。重启即回静态 conf 序,属文档化降级兜底。\n2) Admin 端点 PUT /v1/admin/llm/keys/:keyFingerprint/state {action:park|revive,minutes,reason}——park=写 key_state disabled+cooldownUntil(默认 24h),所有模型 eligible 即刻跳过,零 conf 改动零重启;revive=清 DB 停车+清内存退避。lastError 写 admin_park: 标记,ReportUpstreamError/Success 在窗口内跳过该行,防探针误复活/缩短人工降级;RecordAdminAudit(llm.key_state.set) 审计。fingerprint 必须能解析回 conf provider(防输错指纹)。\n3) 看板可观测:LlmRelayKeyPoolEntry 新增 transportFails/transportParkedUntil/adminParked;relay-status chain 的 EligibleKeys 扣除软停车,与选号路径一致。\n\n无 DB 迁移、无 conf 变更。验证:gofmt+go build 全量绿;go test ./service/llm_relay_service 4.3s + 全量 18 包绿(新增 TestLlmTransportBackoffEscalatesAndResets/Caps/TestEffectiveCandidateWeightTransportShift);swag init 重生成含新路由。行为对照:chronic dead key ≈7 次连续失败后稳定 30min 软停车滚动,间歇失败自动减半权重;探针/真实成功即复活——对应运营诉求\"用不了就摘底、好了浮回来、全程不重启\"。","contentType":"text/plain;utf-8","attachments":[],"quotePin":""}