可观测性
已收录文章：2篇
-
大模型接口出现 429 时，连续立刻再发往往只会让队列更长。本文按运行手册的节奏说明如何保留响应线索，区分请求数量、令牌总量与并发积压三类原因，再用限并发、缩短上下文和带抖动的退避把线上对话从拥塞中拉回来。432 收藏
-
科技周边 · 人工智能 | 2星期前 | 人工智能 · GenAI · opentelemetry · 可观测性 · AI工程 · 人工智能 链路追踪 GenAI OpenTelemetry AI可观测性 LLM网关 Token统计围绕 AI 调用规模化后的日志散乱、模型字段不统一、token 成本不可见和隐私采集风险，讲解如何用 OpenTelemetry GenAI 字段建设统一观测架构。427 收藏