RandomStructured

class torch.nn.utils.prune.RandomStructured(amount, dim=-1)

隨機修剪張量中的整個（目前未修剪的）通道。

參數

• amount ( int 或 float ) – 要剪枝的參數數量。 如果是 float，則應介於 0.0 和 1.0 之間，表示要剪枝的參數比例。 如果是 int，則表示要剪枝的參數的絕對數量。

• dim ( int, optional ) – 定義要剪枝的通道的維度索引。 預設值：-1。

classmethod apply(module, name, amount, dim=-1)

動態地添加剪枝和張量的重新參數化。

添加一個前向預先鉤子，該鉤子啟用動態剪枝，並根據原始張量和剪枝遮罩重新參數化張量。

參數

• module ( nn.Module ) – 包含要剪枝的張量的模組

• name ( str ) – module 中的參數名稱，剪枝將作用於其上。

• amount ( int 或 float ) – 要剪枝的參數數量。 如果是 float，則應介於 0.0 和 1.0 之間，表示要剪枝的參數比例。 如果是 int，則表示要剪枝的參數的絕對數量。

• dim ( int, optional ) – 定義要剪枝的通道的維度索引。 預設值：-1。

apply_mask(module)

簡單地處理被剪枝的參數和生成的遮罩之間的乘法。

從模組中獲取遮罩和原始張量，並返回張量的剪枝版本。

參數

module ( nn.Module ) – 包含要剪枝的張量的模組

返回

輸入張量的剪枝版本

返回類型

pruned_tensor ( torch.Tensor )

compute_mask(t, default_mask)

計算並返回輸入張量 t 的遮罩。

從基礎 default_mask 開始（如果張量尚未被剪枝，則該遮罩應為全 1），生成一個隨機遮罩，通過隨機將沿張量的指定維度的通道歸零，來應用於 default_mask 之上。

參數

• t ( torch.Tensor ) – 表示要剪枝的參數的張量

• default_mask ( torch.Tensor ) – 來自先前剪枝迭代的基本遮罩，在新遮罩應用後需要遵守。 與 t 具有相同的維度。

返回

要應用於 t 的遮罩，與 t 具有相同的維度

返回類型

mask ( torch.Tensor )

引發

IndexError – 如果 self.dim >= len(t.shape)

prune(t, default_mask=None, importance_scores=None)

計算並返回輸入張量 t 的剪枝版本。

根據 compute_mask() 中指定的剪枝規則。

參數

• t ( torch.Tensor ) – 要剪枝的張量（與 default_mask 具有相同的維度）。

• importance_scores ( torch.Tensor ) – 重要性分数的張量（与 t 具有相同的形狀），用於計算剪枝 t 的遮罩。 此張量中的值指示 t 中被剪枝的相應元素的重要性。 如果未指定或為 None，則將使用張量 t 代替。

• default_mask ( torch.Tensor, optional ) – 來自先前剪枝迭代的遮罩（如果有的話）。 在確定剪枝應作用於張量的哪個部分時要考慮。 如果為 None，則默認為全 1 遮罩。

返回

張量 t 的剪枝版本。

remove(module)

從模組中移除剪枝重新參數化。

名為 name 的剪枝參數保持永久剪枝，並且名為 name+'_orig' 的參數將從參數列表中移除。 類似地，名為 name+'_mask' 的緩衝區將從緩衝區中移除。

注意

剪枝本身不會被撤銷或反轉！