torch.xpu.memory_stats

torch.xpu.memory_stats(device=None)

傳回給定裝置的 XPU 記憶體配置器統計資料的字典。

此函數的傳回值是一個統計資料字典，每個統計資料都是一個非負整數。

核心統計資料

• "allocated_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"：已配置的記憶體量。

• "reserved_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"：已保留的記憶體量。

• "active_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"：作用中的記憶體量。

• "requested_bytes.{all,large_pool,small_pool}.{current,peak,allocated,freed}"：用戶端程式碼請求的記憶體量，將此值與 allocated_bytes 進行比較，以檢查配置捨入是否增加了過多的額外負荷。

對於這些核心統計資料，值會細分為如下。

記憶體池類型

• all：彙整所有記憶體池的統計資料。

• large_pool：大型分配池的統計資料（針對大小 >= 1MB 的分配）。

• small_pool：小型分配池的統計資料（針對大小 < 1MB 的分配）。

指標類型

• current：此指標的目前值。

• peak：此指標的最大值。

• allocated：此指標的歷史總增量。

• freed：此指標的歷史總減量。

參數

device (torch.device 或 int 或 str, optional) – 選定的裝置。如果 device 為 None (預設)，則傳回目前裝置的統計資料，由 current_device() 指定。

回傳類型

Dict[str, Any]