服務 API

• TorchServe gRPC API
  • 用於 gRPC API 的 Python 用戶端範例
  • GRPC 伺服器端串流
• 推論 API
  • API 說明
  • 健康檢查 API
  • 預測 API
    • curl 範例
    • curl 範例
  • 說明 API
    • curl 範例
  • KServe 推論 API
    • curl 範例
  • KServe 說明 API
    • curl 範例
• 管理 API
  • 註冊模型
    • 加密模型服務
  • 擴展工作人員
  • 描述模型
  • 取消註冊模型
  • 列出模型
  • API 說明
  • 設定預設版本
  • Token 授權 API
• 指標 API
  • Prometheus 伺服器
  • Grafana
• TorchServe REST API
• 工作流程推論 API
  • 預測 API
    • curl 範例
• 管理 API
  • 註冊工作流程
  • 描述工作流程
  • 取消註冊工作流程
  • 列出工作流程