▪ production
应用上线清单
如果你正在把 11book 接入自己的应用,发布前请把密钥、重试、成本和回滚路径准备好。
密钥与权限
- 每个项目、环境和服务使用独立 API Key。
- 为生产 Key 设置额度上限或有效期,避免共享高权限密钥。
- Key 只从环境变量或密钥管理服务注入,不写入前端、镜像或日志。
- 将测试和生产账户、Key、余额分开。
请求与重试
- 设置连接、读取和整体请求超时,避免请求长期占用线程。
- 只对 429 和可恢复的 5xx 做有限次指数退避;401、余额不足和模型不存在不要重试。
- 流式请求断开后,先记录 request 状态,再决定是否重试,避免重复扣费或重复写入。
- 生产环境先用小并发压测,逐步提高并发,不要一次性制造突发流量。
不要把重试次数、并发数和超时时间写成所有模型通用的固定值;请结合你的请求大小、流式比例和实际错误记录调整。
可观测性与成本
- 记录模型、端点、状态码、延迟、输入/输出 Token 和内部 request ID。
- 不要记录完整 API Key 或未经脱敏的敏感 Prompt。
- 定期查看控制台的使用记录和消费分析,按项目或 Key 设置预算告警。
- 费率以模型目录和账单明细为准,不要在客户端重复乘折扣。
发布前最后检查
- 用生产 Key 发起一次最小请求,并确认使用记录出现。
- 人为验证 401、429 和余额不足时,应用会给出可操作提示。
- 确认可以快速停用 Key,并知道从哪里恢复或回滚。
- 保存当前模型 ID、价格和配置版本,方便事后核对。