MovingAveragePerChannelMinMaxObserver¶
- class torch.ao.quantization.observer.MovingAveragePerChannelMinMaxObserver(averaging_constant=0.01, ch_axis=0, dtype=torch.quint8, qscheme=torch.per_channel_affine, reduce_range=False, quant_min=None, quant_max=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)[source][source]¶
用於基於每個通道的執行最小值和最大值來計算量化參數的觀察者模組。
此觀察者使用張量的最小值/最大值統計資訊來計算每個通道的量化參數。此模組記錄輸入張量的執行最小值和最大值,並使用此統計資訊來計算量化參數。
- 參數
averaging_constant – 最小值/最大值的平均常數。
ch_axis – 通道軸
dtype – 量化的資料類型
qscheme – 要使用的量化方案
reduce_range – 將量化資料類型的範圍減少 1 位元
quant_min – 最小量化值。如果未指定,它將遵循 8 位元的設定。
quant_max – 最大量化值。如果未指定,它將遵循 8 位元的設定。
eps (Tensor) – float32 的 Epsilon 值,預設為 torch.finfo(torch.float32).eps。
量化參數的計算方式與
MovingAverageMinMaxObserver
中相同,不同之處在於執行最小值/最大值是按通道儲存的。因此,縮放比例和零點也是按通道計算的。注意
如果執行最小值等於執行最大值,則縮放比例和 zero_points 會設定為 1.0 和 0。