Torch-TensorRT C++ API

類別階層

• • 命名空間 torch_tensorrt
    • 命名空間 torch_tensorrt::logging
      • 列舉 Level
    • 命名空間 torch_tensorrt::ptq
      • 範本類別 Int8CacheCalibrator
      • 範本類別 Int8Calibrator
    • 命名空間 torch_tensorrt::torchscript
      • 結構 CompileSpec
    • 結構 Device
      • 類別 Device::DeviceType
    • 結構 GraphInputs
    • 結構 Input
    • 類別 DataType
    • 類別 TensorFormat
    • 列舉 EngineCapability

檔案階層

• • 目錄 cpp
    • 目錄 include
      • 目錄 torch_tensorrt
        • 檔案 logging.h
        • 檔案 macros.h
        • 檔案 ptq.h
        • 檔案 torch_tensorrt.h

完整 API

命名空間

• 命名空間 torch_tensorrt
  • 命名空間
  • 類別
  • 列舉
  • 函式

• 命名空間 torch_tensorrt::logging
  • 列舉
  • 函式

• 命名空間 torch_tensorrt::ptq
  • 類別
  • 函式

• 命名空間 torch_tensorrt::torchscript
  • 類別
  • 函式

類別與結構

• 結構 Device
  • 巢狀關係
    • 巢狀類型
  • 結構文件

• 結構 GraphInputs
  • 結構文件

• 結構 Input
  • 繼承關係
    • 基底類型
  • 結構文件

• 結構 CompileSpec
  • 結構文件

• 類別 DataType
  • 類別文件

• 類別 Device::DeviceType
  • 巢狀關係
  • 類別文件

• 範本類別 Int8CacheCalibrator
  • 繼承關係
    • 基底類型
  • 類別文件

• 範本類別 Int8Calibrator
  • 繼承關係
    • 基底類型
  • 類別文件

• 類別 TensorFormat
  • 類別文件

列舉

• 列舉 EngineCapability
  • 列舉文件

• 列舉 Level
  • 列舉文件

函式

• 函式 torch_tensorrt::dump_build_info
  • 函式文件

• 函式 torch_tensorrt::get_build_info
  • 函式文件

• 函式 torch_tensorrt::logging::get_is_colored_output_on
  • 函式文件

• 函式 torch_tensorrt::logging::get_logging_prefix
  • 函式文件

• 函式 torch_tensorrt::logging::get_reportable_log_level
  • 函式文件

• 函式 torch_tensorrt::logging::log
  • 函式文件

• 函式 torch_tensorrt::logging::set_is_colored_output_on
  • 函式文件

• 函式 torch_tensorrt::logging::set_logging_prefix
  • 函式文件

• 函式 torch_tensorrt::logging::set_reportable_log_level
  • 函式文件

• 範本函式 torch_tensorrt::ptq::make_int8_cache_calibrator
  • 函式文件

• 範本函式 torch_tensorrt::ptq::make_int8_calibrator
  • 函式文件

• 函式 torch_tensorrt::set_device
  • 函式文件

• 函式 torch_tensorrt::torchscript::check_method_operator_support
  • 函式文件

• 函式 torch_tensorrt::torchscript::compile
  • 函式文件

• 函式 torch_tensorrt::torchscript::convert_method_to_trt_engine
  • 函式文件

• 函式 torch_tensorrt::torchscript::embed_engine_in_new_module
  • 函式文件

定義

• 定義 STR
  • 定義文件

• 定義 TORCH_TENSORRT_MAJOR_VERSION
  • 定義文件

• 定義 TORCH_TENSORRT_MINOR_VERSION
  • 定義文件

• 定義 TORCH_TENSORRT_PATCH_VERSION
  • 定義文件

• 定義 TORCH_TENSORRT_VERSION
  • 定義文件

• 定義 TORCHTRT_API
  • 定義文件

• 定義 TORCHTRT_HIDDEN
  • 定義文件

• 定義 XSTR
  • 定義文件