vit_b_16

torchvision.models.vit_b_16(*, weights: Optional[ViT_B_16_Weights] = None, progress: bool = True, **kwargs: Any) → VisionTransformer

從 An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale 建構 vit_b_16 架構。

參數:

• weights (ViT_B_16_Weights, optional) – 要使用的預訓練權重。請參閱下方的 ViT_B_16_Weights 以取得更多詳細資訊和可能的值。預設情況下，不使用預訓練權重。

• progress (bool, optional) – 如果為 True，則在 stderr 中顯示下載進度條。預設值為 True。

• **kwargs – 傳遞至 torchvision.models.vision_transformer.VisionTransformer 基底類別的參數。關於此類別的更多詳細資訊，請參閱 原始程式碼。

class torchvision.models.ViT_B_16_Weights(value)

上面的模型建構器接受以下值作為 weights 參數。ViT_B_16_Weights.DEFAULT 等同於 ViT_B_16_Weights.IMAGENET1K_V1。您也可以使用字串，例如 weights='DEFAULT' 或 weights='IMAGENET1K_V1'。

ViT_B_16_Weights.IMAGENET1K_V1:

這些權重是使用修改版的 DeIT 訓練配方從頭開始訓練的。也可用作 ViT_B_16_Weights.DEFAULT。

acc@1 (在 ImageNet-1K 上)	81.072
acc@5 (在 ImageNet-1K 上)	95.318
類別	丁魚, 金魚, 大白鯊, … (省略 997 個)
num_params	86567656
min_size	height=224, width=224
配方	連結
GFLOPS	17.56
檔案大小	330.3 MB

推論轉換可在 ViT_B_16_Weights.IMAGENET1K_V1.transforms 中取得，並執行以下預處理操作：接受 PIL.Image、批次 (B, C, H, W) 和單張 (C, H, W) 影像 torch.Tensor 物件。影像會使用 interpolation=InterpolationMode.BILINEAR 調整大小為 resize_size=[256]，然後進行 crop_size=[224] 的中心裁剪。最後，這些值會先重新縮放至 [0.0, 1.0]，然後使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 進行正規化。

ViT_B_16_Weights.IMAGENET1K_SWAG_E2E_V1:

這些權重是透過端對端微調原始 SWAG 權重在 ImageNet-1K 資料上，透過遷移學習所學習的。

acc@1 (在 ImageNet-1K 上)	85.304
acc@5 (在 ImageNet-1K 上)	97.65
類別	丁魚, 金魚, 大白鯊, … (省略 997 個)
配方	連結
授權	連結
num_params	86859496
min_size	height=384, width=384
GFLOPS	55.48
檔案大小	331.4 MB

推論轉換可在 ViT_B_16_Weights.IMAGENET1K_SWAG_E2E_V1.transforms 中取得，並執行以下預處理操作：接受 PIL.Image、批次 (B, C, H, W) 和單張 (C, H, W) 影像 torch.Tensor 物件。影像會使用 interpolation=InterpolationMode.BICUBIC 調整大小為 resize_size=[384]，然後進行 crop_size=[384] 的中心裁剪。最後，這些值會先重新縮放至 [0.0, 1.0]，然後使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 進行正規化。

ViT_B_16_Weights.IMAGENET1K_SWAG_LINEAR_V1:

這些權重由原始凍結的 SWAG 主幹權重和在 ImageNet-1K 資料上訓練的線性分類器組成。

acc@1 (在 ImageNet-1K 上)	81.886
acc@5 (在 ImageNet-1K 上)	96.18
類別	丁魚, 金魚, 大白鯊, … (省略 997 個)
配方	連結
授權	連結
num_params	86567656
min_size	height=224, width=224
GFLOPS	17.56
檔案大小	330.3 MB

推論轉換可在 ViT_B_16_Weights.IMAGENET1K_SWAG_LINEAR_V1.transforms 中取得，並執行以下預處理操作：接受 PIL.Image、批次 (B, C, H, W) 和單張 (C, H, W) 影像 torch.Tensor 物件。影像會使用 interpolation=InterpolationMode.BICUBIC 調整大小為 resize_size=[224]，然後進行 crop_size=[224] 的中心裁剪。最後，這些值會先重新縮放至 [0.0, 1.0]，然後使用 mean=[0.485, 0.456, 0.406] 和 std=[0.229, 0.224, 0.225] 進行正規化。