跳至正文

生产检查清单 ​

执行与工具 ​

  • 只注册任务需要的工具,在应用或工具中检查权限。
  • 设置执行超时、轮数或步骤上限,以及工具并发上限。
  • 尚未确认工具的并发安全性时,使用串行或 Mixed 模式。
  • 在隔离环境中执行不可信的命令、代码、浏览器和桌面操作。
  • 重试或恢复前,通过幂等键或核对外部状态,避免重复付款、写入等操作。

模型服务 ​

  • 验证模型是否支持工具、图片、思考和结构化输出。
  • 分别处理启动失败、传输失败、响应格式错误和流中途失败。
  • 限制重试及备用模型调用的预算,为所有 Provider 配置指标采集。
  • 管理密钥轮换,并在临时 token 过期前刷新。
  • 更换模型服务前,验证已有历史能否被新模型接受。

状态与存储 ​

  • 检查每个线程、快照、检查点和产物的访问权限。
  • 需要重启后恢复时,配置持久化存储。
  • 明确保留期限、备份、删除和版本迁移方式。
  • 创建分支或转换历史时,保留消息、工具调用和条目的稳定 ID。
  • 同一会话的请求应依次执行,除非应用已实现安全的并发策略。

HTTP 与客户端 ​

  • 为路由配置身份认证,不能用 CORS 代替。
  • 禁用不需要的技能管理 API,限制重新加载技能的权限。
  • 为每个 Handler 限制请求体大小、请求速率、可用模型和输出大小。
  • 中间件保留 SSE 所需的刷新能力,代理使用合适的缓冲和超时设置。
  • 客户端重连后根据保存的快照同步状态,不假设所有增量输出都已送达。
  • 撤回失败尝试的输出,请求结束后退订相关事件处理函数。

运维与验证 ​

  • 测试请求和工具仍在运行时的优雅关闭流程。
  • 由负责资源生命周期的组件关闭 Agent、MCP 连接、终端和界面。
  • 对日志、链路、历史和产物中的敏感内容进行脱敏。
  • 监控模型用量、失败、重试、压缩和待审核任务。
  • 用实际保存的数据样本验证恢复和版本升级。

库提供实现这些功能的机制,不是完整的安全或多租户平台。可以结合设计思想和测试指南,制定应用自己的验收标准。

基于 MIT 许可证发布。