切换主题
监控与健康检查
权限与入口
平台系统信息与管理监控由 Root/超级管理员或授权运维人员查看;普通用户的数据看板见 用户指南。
至少分别观察服务存活、请求链路和业务结果。状态接口能返回,不代表模型可用、用户有权益或任务能够完成。
三层检查
| 层次 | 检查什么 | 说明 |
|---|---|---|
| 应用状态 | /api/status、容器状态、启动日志 | 确认网关可以响应 |
| 调用链路 | 受控令牌的模型请求与延迟 | 可能产生少量费用,应设置预算 |
| 业务结果 | 失败率、最终扣费、任务积压与终态 | 避免只看 HTTP 200 |
仓库 Compose 已提供访问 /api/status 的容器健康检查。它不验证每条上游渠道。
基础检查命令
bash
curl --fail-with-body http://localhost:3000/api/status
docker compose ps
docker compose logs --tail 100 ai-gateway1
2
3
2
3
记录 HTTP 状态之外,还应检查 JSON 的业务结果。管理 API 可能使用 success: false 表示失败,不能把收到 200 一律当成操作成功。
需要持续观察的信号
- 请求错误率是否集中于某个模型、渠道或上游。
- 首字延迟、总耗时与流式中断是否同时变化。
- 数据库连接、磁盘空间和数据库备份是否正常。
- Redis 不可用后,缓存和限流是否按预期降级。
- 任务排队时间、轮询失败和超时数量是否增加。
- 日志增长是否符合保留策略,是否占满磁盘。
具体阈值应根据真实基线设定,不使用本站虚构的容量指标。
性能诊断
当前环境示例包含 pprof 与 Pyroscope 相关配置。只有确有诊断需求时再启用,限制可访问范围并避免暴露到公网。性能分析会产生额外开销,采样结果也可能含内部信息。
先根据错误和资源趋势确认瓶颈位置,再决定优化网关、上游、数据库还是反向代理。