TorchServe REST API

TorchServe 使用 RESTful API 進行推論和管理呼叫。該 API 符合 OpenAPI 規範 3.0。 您可以使用 swagger codegen 輕鬆地為 Java、Scala、C# 或 Javascript 產生客戶端程式碼。

當 TorchServe 啟動時，它會啟動兩個 Web 服務

• 推論 API

• 管理 API

• 指標 API

• 工作流程推論 API

• 工作流程管理 API

預設情況下，TorchServe 在 8080 連接埠上監聽推論 API，在 8081 連接埠上監聽管理 API。 預設情況下，這兩個 API 只能從 localhost 存取。 若要啟用從遠端主機的存取，請參閱 TorchServe 設定。