torch.nn.functional.mish

torch.nn.functional.mish(input, inplace=False)

逐元素 (element-wise) 應用 Mish 函數。

Mish：一個自我正規化的非單調神經激活函數。

$$\text{Mish}(x) = x * \text{Tanh}(\text{Softplus}(x))$$

注意

參見 Mish: A Self Regularized Non-Monotonic Neural Activation Function

參見 Mish 以取得更多細節。

回傳類型

Tensor