快速鍵

SDPBackend

class torch.nn.attention.SDPBackend

一個類似枚舉的類別,包含縮放點積注意力 (scaled dot product attention) 的不同後端。這個後端類別設計用於搭配 sdpa_kernel 上下文管理器使用。

提供以下枚舉:
  • ERROR: 嘗試確定後端時發生錯誤。

  • MATH: 縮放點積注意力的數學運算後端。

  • FLASH_ATTENTION: 縮放點積注意力的 Flash Attention 後端。

  • EFFICIENT_ATTENTION: 縮放點積注意力的 Efficient Attention 後端。

  • CUDNN_ATTENTION: 縮放點積注意力的 cuDNN 後端。

詳情請參閱 torch.nn.attention.sdpa_kernel()

警告

這個類別目前為 Beta 版本,可能會有變動。

property name

文件

存取 PyTorch 完整的開發者文件

檢視文件

教學

取得適合初學者和進階開發人員的深入教學課程

檢視教學

資源

尋找開發資源並獲得您問題的解答

檢視資源