vit_h_14

torchvision.models.vit_h_14(*, weights: Optional[ViT_H_14_Weights] = None, progress: bool = True, **kwargs: Any) → VisionTransformer

從 An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale 構建 vit_h_14 架構。

參數:

• weights (ViT_H_14_Weights, optional) – 要使用的預訓練權重。 有關更多詳細信息和可能的值，請參閱下面的ViT_H_14_Weights。 預設情況下，不使用預訓練權重。

• progress ( bool, optional) – 若為 True，則會將下載進度條顯示到 stderr。預設為 True。

• **kwargs – 傳遞給 torchvision.models.vision_transformer.VisionTransformer 基礎類別的參數。關於此類別的更多詳細資訊，請參考原始碼。

class torchvision.models.ViT_H_14_Weights(value)

上面的模型建構器接受以下數值作為 weights 參數。ViT_H_14_Weights.DEFAULT 相當於 ViT_H_14_Weights.IMAGENET1K_SWAG_E2E_V1。您也可以使用字串，例如 weights='DEFAULT' 或 weights='IMAGENET1K_SWAG_E2E_V1'。

ViT_H_14_Weights.IMAGENET1K_SWAG_E2E_V1:

這些權重是透過轉移學習，在 ImageNet-1K 資料上端對端微調原始 SWAG 權重來學習的。也可作為 ViT_H_14_Weights.DEFAULT 使用。

acc@1 (在 ImageNet-1K 上)	88.552
acc@5 (在 ImageNet-1K 上)	98.694
categories	tench, goldfish, great white shark, … (省略 997 個)
recipe	link
license	link
num_params	633470440
min_size	height=518, width=518
GFLOPS	1016.72
File size	2416.6 MB

推理轉換可在 ViT_H_14_Weights.IMAGENET1K_SWAG_E2E_V1.transforms 中找到，並執行以下預處理操作：接受 PIL.Image、批次 (B, C, H, W) 和單張 (C, H, W) 影像 torch.Tensor 物件。 影像使用 interpolation=InterpolationMode.BICUBIC 調整大小到 resize_size=[518]，然後進行 crop_size=[518] 的中心裁剪。 最後，這些值首先被重新縮放到 [0.0, 1.0]，然後使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 進行標準化。

ViT_H_14_Weights.IMAGENET1K_SWAG_LINEAR_V1:

這些權重由原始凍結的 SWAG trunk 權重和在 ImageNet-1K 資料上訓練的線性分類器組成。

acc@1 (在 ImageNet-1K 上)	85.708
acc@5 (在 ImageNet-1K 上)	97.73
categories	tench, goldfish, great white shark, … (省略 997 個)
recipe	link
license	link
num_params	632045800
min_size	height=224, width=224
GFLOPS	167.29
File size	2411.2 MB

推理轉換可在 ViT_H_14_Weights.IMAGENET1K_SWAG_LINEAR_V1.transforms 中找到，並執行以下預處理操作：接受 PIL.Image、批次 (B, C, H, W) 和單張 (C, H, W) 影像 torch.Tensor 物件。 影像使用 interpolation=InterpolationMode.BICUBIC 調整大小到 resize_size=[224]，然後進行 crop_size=[224] 的中心裁剪。 最後，這些值首先被重新縮放到 [0.0, 1.0]，然後使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 進行標準化。