MemPool

class torch.cuda.MemPool(*args, **kwargs)

MemPool 代表一個在快取分配器中的記憶體池。目前，它只是 CUDACachingAllocator 中維護的池物件的 ID。

參數

allocator (torch._C._cuda_CUDAAllocator, optional) – 一個 torch._C._cuda_CUDAAllocator 物件，可用於定義記憶體如何在池中被分配。如果 allocator 為 None (預設值)，則記憶體分配將遵循 CUDACachingAllocator 的預設/目前配置。

property allocator: Optional[_cuda_CUDAAllocator]

回傳此 MemPool 將分配路由到的 allocator。

property id: Tuple[int, int]

以兩個整數的 tuple 形式回傳此池的 ID。

snapshot()

傳回所有裝置上 CUDA 記憶體分配器池狀態的快照。

理解此函數的輸出需要熟悉記憶體分配器的內部結構。

注意

有關 GPU 記憶體管理的更多詳細資訊，請參閱 記憶體管理。

use_count()

傳回此池的參考計數。

回傳類型

int