ts.utils 套件

子模組

ts.utils.timeit_decorator 模組

timeit 裝飾器

ts.utils.timeit_decorator.timeit(func)

在方法上使用此裝飾器可找出其執行時間。 :param func: :return

ts.utils.util 模組

TorchServe 的公用程式函式

class ts.utils.util.PT2Backend(value)

基底類別： str, Enum

列舉。

AOT_CUDAGRAPHS = 'aot_cudagraphs'

AOT_EAGER = 'aot_eager'

AOT_NVFUSER = 'aot_nvfuser'

EAGER = 'eager'

FX2TRT = 'fx2trt'

HPU_BACKEND = 'hpu_backend'

INDUCTOR = 'inductor'

IPEX = 'ipex'

NVFUSER = 'nvfuser'

OFI = 'ofi'

ONNXRT = 'onnxrt'

OPENVINO = 'openvino'

TENSORRT = 'tensorrt'

TORCHXLA_TRACE_ONCE = 'torchxla_trace_once'

exception ts.utils.util.PredictionException(message, error_code=500)

基底類別： Exception

ts.utils.util.check_valid_pt2_backend(backend: str) → bool

ts.utils.util.deprecated(version, replacement='', klass=<class 'PendingDeprecationWarning'>)

這是一個裝飾器，可用於將函式標記為已棄用。當使用該函式時，它會導致發出警告。

參數：

• version – 函式將被移除的版本。

• replacement – 替換函式（若有）。

• klass – 警告類別

ts.utils.util.get_yaml_config(yaml_file_path)

ts.utils.util.list_classes_from_module(module, parent_class=None)

剖析使用者定義的模組，以取得其中的所有模型服務類別。

參數：

• module –

• parent_class –

傳回：

模型服務類別定義的清單

ts.utils.util.load_label_mapping(mapping_file_path)

載入 JSON 對應 { 類別 ID -> 友善的類別名稱 }。用於 BaseHandler 中。

ts.utils.util.map_class_to_label(probs, mapping=None, lbl_classes=None)

給定類別和機率的清單，傳回 { 友善的類別名稱 -> 機率 } 的字典

模組內容

TorchServe 的公用程式檔案