PrepareCustomConfig

class torch.ao.quantization.fx.custom_config.PrepareCustomConfig

為 prepare_fx() 和 prepare_qat_fx() 進行自訂設定。

使用範例

prepare_custom_config = PrepareCustomConfig()             .set_standalone_module_name("module1", qconfig_mapping, example_inputs,                 child_prepare_custom_config, backend_config)             .set_standalone_module_class(MyStandaloneModule, qconfig_mapping, example_inputs,                 child_prepare_custom_config, backend_config)             .set_float_to_observed_mapping(FloatCustomModule, ObservedCustomModule)             .set_non_traceable_module_names(["module2", "module3"])             .set_non_traceable_module_classes([NonTraceableModule1, NonTraceableModule2])             .set_input_quantized_indexes([0])             .set_output_quantized_indexes([0])             .set_preserved_attributes(["attr1", "attr2"])

classmethod from_dict(prepare_custom_config_dict)

從包含以下項目的字典建立 PrepareCustomConfig

“standalone_module_name”: (module_name, qconfig_mapping, example_inputs, child_prepare_custom_config, backend_config) 元組的列表

“standalone_module_class”：(module_class, qconfig_mapping, example_inputs, child_prepare_custom_config, backend_config) 元組的列表

“float_to_observed_custom_module_class”: 從量化模式到從浮點模組類別到觀察模組類別的內部對應的巢狀字典，例如 {"static": {FloatCustomModule: ObservedCustomModule}}

“non_traceable_module_name”: 不可符號追蹤的模組名稱列表 “non_traceable_module_class”: 不可符號追蹤的模組類別列表 “input_quantized_idxs”: 應量化的圖輸入的索引列表 “output_quantized_idxs”: 應量化的圖輸出的索引列表 “preserved_attributes”: 即使未在 forward 中使用，也會保留的屬性列表

此函數主要用於向後相容性，並且將來可能會被移除。

回傳類型

PrepareCustomConfig

set_float_to_observed_mapping(float_class, observed_class, quant_type=QuantType.STATIC)

設定從自訂浮點模組類別到自訂觀察模組類別的對應。

觀察模組類別必須具有 from_float 類別方法，該方法將浮點模組類別轉換為觀察模組類別。 目前僅支援靜態量化。

回傳類型

PrepareCustomConfig

set_input_quantized_indexes(indexes)

設定應量化的圖輸入的索引。 否則，預設情況下，輸入將被假定為 fp32。

回傳類型

PrepareCustomConfig

set_non_traceable_module_classes(module_classes)

設定不可符號追蹤的模組，以類別識別。

回傳類型

PrepareCustomConfig

set_non_traceable_module_names(module_names)

設定不可符號追蹤的模組，以名稱識別。

回傳類型

PrepareCustomConfig

set_output_quantized_indexes(indexes)

設定應量化的圖輸出的索引。 否則，預設情況下，輸出將被假定為 fp32。

回傳類型

PrepareCustomConfig

set_preserved_attributes(attributes)

設定即使未在模型的 forward 方法中使用，也將保留在圖模組中的屬性名稱。

回傳類型

PrepareCustomConfig

set_standalone_module_class(module_class, qconfig_mapping, example_inputs, prepare_custom_config, backend_config)

設定用於執行由 module_class 識別的獨立模組的配置。

如果 qconfig_mapping 為 None，則將改為使用父 qconfig_mapping。 如果 prepare_custom_config 為 None，則將使用空的 PrepareCustomConfig。 如果 backend_config 為 None，則將改為使用父 backend_config。

回傳類型

PrepareCustomConfig

set_standalone_module_name(module_name, qconfig_mapping, example_inputs, prepare_custom_config, backend_config)

設定執行由 module_name 識別的獨立模組的配置。

如果 qconfig_mapping 為 None，則將改為使用父 qconfig_mapping。 如果 prepare_custom_config 為 None，則將使用空的 PrepareCustomConfig。 如果 backend_config 為 None，則將改為使用父 backend_config。

回傳類型

PrepareCustomConfig

to_dict()

將此 PrepareCustomConfig 轉換為字典，其項目描述於 from_dict() 中。

回傳類型

Dict[str, Any]