SDPBackend¶
- class torch.nn.attention.SDPBackend¶
一個類似枚舉的類別,包含縮放點積注意力 (scaled dot product attention) 的不同後端。這個後端類別設計用於搭配 sdpa_kernel 上下文管理器使用。
- 提供以下枚舉:
ERROR: 嘗試確定後端時發生錯誤。
MATH: 縮放點積注意力的數學運算後端。
FLASH_ATTENTION: 縮放點積注意力的 Flash Attention 後端。
EFFICIENT_ATTENTION: 縮放點積注意力的 Efficient Attention 後端。
CUDNN_ATTENTION: 縮放點積注意力的 cuDNN 後端。
詳情請參閱
torch.nn.attention.sdpa_kernel()
。警告
這個類別目前為 Beta 版本,可能會有變動。
- property name¶