PerChannelMinMaxObserver¶
- class torch.ao.quantization.observer.PerChannelMinMaxObserver(ch_axis=0, dtype=torch.quint8, qscheme=torch.per_channel_affine, reduce_range=False, quant_min=None, quant_max=None, factory_kwargs=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)[source][source]¶
用於計算基於每個通道的最小值和最大值的量化參數的觀察者模組。
此觀察者使用張量 (tensor) 的最小值/最大值統計資訊來計算每個通道的量化參數。該模組會記錄傳入張量的最小值和最大值的執行狀態,並使用此統計資訊來計算量化參數。
- 參數
ch_axis – 通道軸
dtype – 實作參考模型規格所需的 quantize 節點的 dtype 引數。
qscheme – 要使用的量化方案
reduce_range – 將量化資料類型範圍縮減 1 位元
quant_min – 最小量化值。如果未指定,則會遵循 8 位元的設定。
quant_max – 最大量化值。如果未指定,則會遵循 8 位元的設定。
eps (Tensor) – float32 的 Epsilon 值,預設為 torch.finfo(torch.float32).eps。
量化參數的計算方式與
MinMaxObserver
中的計算方式相同,不同之處在於執行的最小值/最大值是按通道儲存的。 因此,比例 (scales) 和零點 (zero points) 也是按通道計算的。注意
如果執行的最小值等於執行的最大值,則比例和零點會設定為 1.0 和 0。