對由多個輸入平面組成的輸入訊號應用 2D 卷積。
在最簡單的情況下,具有輸入大小為 ( N , C in , H , W ) (N, C_{\text{in}}, H, W) ( N , C in , H , W ) 和輸出 ( N , C out , H out , W out ) (N, C_{\text{out}}, H_{\text{out}}, W_{\text{out}}) ( N , C out , H out , W out ) 的層的輸出值可以精確地描述為
輸出(Ni , C輸出j ) = 偏差(C輸出j ) + ∑k = 0 C輸入 - 1 權重(C輸出j , k) ⋆ 輸入(Ni , k)
其中 ⋆ \star ⋆ 是有效的 2D 互相關 運算符,N N N 是批次大小,C C C 表示通道數,H H H 是輸入平面以像素為單位的高度,而 W W W 是以像素為單位的寬度。
此模組支援 TensorFloat32 。
在某些 ROCm 裝置上,當使用 float16 輸入時,此模組將使用 不同的精度 進行反向傳播。
stride
控制互相關的步幅,可以是單個數字或元組。
padding
控制應用於輸入的填充量。它可以是字符串 {‘valid’, ‘same’} 或整數/整數元組,給出應用於兩側的隱式填充量。
dilation
控制内核點之間的間距;也稱為 à trous 算法。很難描述,但這個 連結 提供了 dilation
作用的可視化效果。
groups
控制輸入和輸出之間的連接。in_channels
和 out_channels
都必須能被 groups
整除。 例如,
當 groups=1 時,所有輸入都會卷積到所有輸出。
當 groups=2 時,該操作等效於並排具有兩個卷積層,每個層看到一半的輸入通道並產生一半的輸出通道,然後將兩者連接在一起。
當 groups= in_channels
時,每個輸入通道都與其自身的一組濾波器(大小為 out_channels in_channels \frac{\text{out\_channels}}{\text{in\_channels}} in_channels out_channels )卷積。
參數 kernel_size
、stride
、padding
、dilation
可以是
注意
當 groups == in_channels 且 out_channels == K * in_channels 時,其中 K 是一個正整數,此操作也稱為“深度卷積”。
換句話說,對於大小為 ( N , C i n , L i n ) (N, C_{in}, L_{in}) ( N , C in , L in ) 的輸入,可以使用參數 ( C in = C in , C out = C in × K , . . . , groups = C in ) (C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in}) ( C in = C in , C out = C in × K , ... , groups = C in ) 執行深度卷積,其中深度乘數為 K 。
注意
在某些情況下,當給定 CUDA 裝置上的 tensors 並使用 CuDNN 時,此運算子可能會選擇一個非決定性的演算法來提高效能。如果這不符合需求,您可以嘗試設定 torch.backends.cudnn.deterministic = True
,使運算具有決定性(可能以效能為代價)。更多資訊請參閱再現性 。
注意
padding='valid'
與不使用 padding 相同。padding='same'
會對輸入進行 padding,使輸出具有與輸入相同的形狀。但是,此模式不支援除 1 以外的任何 stride 值。
注意
此模組支援複數資料類型,例如 complex32, complex64, complex128
。
參數
in_channels (int ) – 輸入影像中的通道數量
out_channels (int ) – 卷積產生的通道數量
kernel_size (int 或 tuple ) – 卷積核的大小
stride (int 或 tuple , 可選 ) – 卷積的步幅。預設值:1
padding (int , tuple 或 str , 可選 ) – 添加到輸入四個邊的 padding。預設值:0
dilation (int 或 tuple , 可選 ) – 卷積核元素之間的間距。預設值:1
groups (int , 可選 ) – 從輸入通道到輸出通道的阻塞連接數。預設值:1
bias (bool , optional ) – 如果 True
,則在輸出中新增一個可學習的偏差項。預設值:True
padding_mode (str , optional ) – 'zeros'
、'reflect'
、'replicate'
或 'circular'
。預設值:'zeros'
形狀 (Shape)
輸入:( N , C i n , H i n , W i n ) (N, C_{in}, H_{in}, W_{in}) ( N , C in , H in , W in ) or ( C i n , H i n , W i n ) (C_{in}, H_{in}, W_{in}) ( C in , H in , W in )
輸出: ( N , C o u t , H o u t , W o u t ) (N, C_{out}, H_{out}, W_{out}) ( N , C o u t , H o u t , W o u t ) 或 ( C o u t , H o u t , W o u t ) (C_{out}, H_{out}, W_{out}) ( C o u t , H o u t , W o u t ) ,其中
H o u t = ⌊ H i n + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 stride [ 0 ] + 1 ⌋ H_{out} = \left\lfloor\frac{H_{in} + 2 \times \text{padding}[0] - \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) - 1}{\text{stride}[0]} + 1\right\rfloor H o u t = ⌊ stride [ 0 ] H in + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 + 1 ⌋
W o u t = ⌊ W i n + 2 × padding [ 1 ] − dilation [ 1 ] × ( kernel_size [ 1 ] − 1 ) − 1 stride [ 1 ] + 1 ⌋ W_{out} = \left\lfloor\frac{W_{in} + 2 \times \text{padding}[1] - \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) - 1}{\text{stride}[1]} + 1\right\rfloor W o u t = ⌊ stride [ 1 ] W in + 2 × padding [ 1 ] − dilation [ 1 ] × ( kernel_size [ 1 ] − 1 ) − 1 + 1 ⌋
變數
weight (權重)(Tensor )– 模組的可學習權重,形狀為 ( out_channels , in_channels groups , (\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}}, ( out_channels , groups in_channels , kernel_size[0] , kernel_size[1] ) \text{kernel\_size[0]}, \text{kernel\_size[1]}) kernel_size[0] , kernel_size[1] ) 。 這些權重的值是從 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) 採樣而來,其中 k = g r o u p s C in ∗ ∏ i = 0 1 kernel_size [ i ] k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]} k = C in ∗ ∏ i = 0 1 kernel_size [ i ] g ro u p s
bias (Tensor ) – 模組的可學習偏差,形狀為 (out_channels)。如果 bias
為 True
,則這些權重的值會從 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) 採樣,其中 k = g r o u p s C in ∗ ∏ i = 0 1 kernel_size [ i ] k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]} k = C in ∗ ∏ i = 0 1 kernel_size [ i ] g ro u p s
範例
>>> # With square kernels and equal stride
>>> m = nn . Conv2d ( 16 , 33 , 3 , stride = 2 )
>>> # non-square kernels and unequal stride and with padding
>>> m = nn . Conv2d ( 16 , 33 , ( 3 , 5 ), stride = ( 2 , 1 ), padding = ( 4 , 2 ))
>>> # non-square kernels and unequal stride and with padding and dilation
>>> m = nn . Conv2d ( 16 , 33 , ( 3 , 5 ), stride = ( 2 , 1 ), padding = ( 4 , 2 ), dilation = ( 3 , 1 ))
>>> input = torch . randn ( 20 , 16 , 50 , 100 )
>>> output = m ( input )