LazyLinear

class torch.nn.LazyLinear(out_features, bias=True, device=None, dtype=None)

一個 torch.nn.Linear 模組，其中 in_features 會被推斷出來。

在這個模組中，weight 和 bias 都是 torch.nn.UninitializedParameter 類別。 它們會在第一次呼叫 forward 完成後初始化，並且該模組會變成一個常規的 torch.nn.Linear 模組。Linear 的 in_features 參數是從 input.shape[-1] 推斷出來的。

請查看 torch.nn.modules.lazy.LazyModuleMixin，以取得關於惰性模組及其限制的更多文件。

參數

• out_features (int) – 每個輸出樣本的大小

• bias (UninitializedParameter) – 如果設定為 False，則該層將不會學習加性偏差。預設值：True

變數

• weight (torch.nn.parameter.UninitializedParameter) – 模組的可學習權重，形狀為 $(\text{out\_features}, \text{in\_features})$. 這些值是從 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$初始化的，其中 $k = \frac{1}{\text{in\_features}}$

• bias ( torch.nn.parameter.UninitializedParameter ) – 模組的可學習偏置，形狀為 $(\text{out\_features})$。如果 bias 為 True，則值會從 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 初始化，其中 $k = \frac{1}{\text{in\_features}}$

cls_to_become

Linear 的別名