把 LLM 集成进生产级 SaaS 的实用建议

一位开发者总结了把 LLM 集成进生产级 SaaS 的 7 条工程实践：提示词与参数像代码一样存入 Git 仓库并走 PR 评审，把多个用户请求合并成单次 API 调用以控制 token 成本和延迟，并用指数退避重试、Prometheus 或 Datadog 监控延迟与错误率（阈值如 5%）。