DiscreteTensorSpec¶

class torchrl.data.DiscreteTensorSpec(*args, **kwargs)[原始碼]¶

torchrl.data.Categorical 的已棄用版本。

assert_is_in(value: Tensor) → None¶

斷言張量是否屬於這個框，否則會引發例外。

參數:: value (torch.Tensor) – 要檢查的值。

clear_device_() → T¶

所有葉節點規格的空操作（必須有一個裝置）。

對於 Composite 規格，此方法將會清除裝置。

clone() → Categorical¶: 建立 TensorSpec 的副本。

contains(item: torch.Tensor | tensordict.base.TensorDictBase) → bool¶

如果數值 val 可能由 TensorSpec 產生，則回傳 True，否則回傳 False。

請參閱 is_in() 以取得更多資訊。

cpu()¶: 將 TensorSpec 轉換到 'cpu' 裝置。

cuda(device=None)¶: 將 TensorSpec 轉換到 'cuda' 裝置。

device: torch.device | None = None¶

encode(val: numpy.ndarray | torch.Tensor | tensordict.base.TensorDictBase, *, ignore_device: bool = False) → torch.Tensor | tensordict.base.TensorDictBase¶

根據指定的規格編碼一個值，並回傳對應的 tensor。

此方法用於回傳一個值（例如，一個 numpy 陣列）的環境中，該值可以輕鬆映射到 TorchRL 所需的域。如果該值已經是一個 tensor，則規格不會更改其值並將其原封不動地回傳。

參數:: val (np.ndarray 或 torch.Tensor) – 要編碼為 tensor 的值。
關鍵字參數：: ignore_device (bool, optional) – 如果 True，則將忽略規格裝置。這用於在呼叫 TensorDict(..., device="cuda") 中對 tensor 轉換進行分組，這樣會更快。
回傳：: 符合所需 tensor 規格的 torch.Tensor。

expand(*shape)¶

回傳一個具有展開形狀的新規格。

參數:: *shape (tuple 或 int 的可迭代物件) – 規格的新形狀。必須與目前形狀可廣播：它的長度必須至少與目前形狀長度一樣長，並且其最後的值也必須相容；也就是說，只有在目前維度是單例時，它們才能與之不同。

flatten(start_dim: int, end_dim: int) → T¶

展平一個 TensorSpec。

請參閱 flatten() 以取得有關此方法的更多資訊。

classmethod implements_for_spec(torch_function: Callable) → Callable¶: 為 TensorSpec 註冊一個 torch 函數覆寫。

abstract index(index: Union[int, Tensor, ndarray, slice, List], tensor_to_index: torch.Tensor | tensordict.base.TensorDictBase) → torch.Tensor | tensordict.base.TensorDictBase¶

對輸入張量進行索引。

參數:

index (int, torch.Tensor, slice or list) – 張量的索引
tensor_to_index – 要被索引的張量

回傳：

已索引的張量

is_in(val: Tensor) → bool¶

如果數值 val 可能由 TensorSpec 產生，則回傳 True，否則回傳 False。

更精確地說，is_in 方法會檢查數值 val 是否在 space 屬性（即該範圍）所定義的限制內，並且 dtype、device、shape 以及潛在的其他元數據是否與 spec 的元數據相符。如果任何一個檢查失敗，is_in 方法將會返回 False。

參數:: val (torch.Tensor) – 要檢查的數值。
回傳：: 布林值，指示數值是否屬於 TensorSpec 範圍。

make_neg_dim(dim: int) → T¶: 將特定維度轉換為 -1。

property ndim: int¶

spec 形狀的維度數量。

len(spec.shape) 的快捷方式。

ndimension() → int¶

spec 形狀的維度數量。

len(spec.shape) 的快捷方式。

one(shape: Optional[Size] = None) → torch.Tensor | tensordict.base.TensorDictBase¶

返回一個範圍內填滿 1 的張量。

注意

即使無法保證 1 屬於 spec 的域，但當違反此條件時，此方法也不會引發例外。 one 的主要使用案例是生成空的數據緩衝區，而不是有意義的數據。

參數:: shape (torch.Size) – one-tensor 的形狀
回傳：: 在 TensorSpec 範圍內採樣的一個填滿 1 的張量。

ones(shape: Optional[Size] = None) → torch.Tensor | tensordict.base.TensorDictBase¶: 指向 one() 的代理。

project(val: torch.Tensor | tensordict.base.TensorDictBase) → torch.Tensor | tensordict.base.TensorDictBase¶

如果輸入張量不在 TensorSpec 範圍內，它會根據一些已定義的啟發法將其映射回範圍內。

參數:: val (torch.Tensor) – 要映射到範圍的張量。
回傳：: 屬於 TensorSpec 範圍的 torch.Tensor。

rand(shape: Optional[Size] = None) → Tensor¶

回傳一個由 spec 定義的空間中的隨機張量。

除非這個範圍是無界的，在這種情況下，會取樣常態分佈的值，否則將會在空間上均勻地進行取樣。

參數:: shape (torch.Size) – 隨機張量的形狀
回傳：: 在 TensorSpec 範圍內取樣的隨機張量。

reshape(*shape) → T¶

重新塑造一個 TensorSpec。

更多關於這個方法的資訊，請查閱 reshape()。

sample(shape: Optional[Size] = None) → torch.Tensor | tensordict.base.TensorDictBase¶

回傳一個由 spec 定義的空間中的隨機張量。

請參閱 rand() 以取得詳細資訊。

squeeze(dim=None)¶

回傳一個新的 Spec，其中所有大小為 1 的維度都已被移除。

當給定 dim 時，僅在該維度上執行 squeeze 操作。

參數:: dim (int 或 None) – 要應用 squeeze 操作的維度

to(dest: Union[dtype, device, str, int]) → Categorical¶

將 TensorSpec 轉換為 device 或 dtype。

如果沒有進行任何更改，則回傳相同的 spec。

to_categorical(val: Tensor, safe: Optional[bool] = None) → Tensor¶: 對於 categorical，此操作無效。

to_categorical_spec() → Categorical¶: 對於 categorical，此操作無效。

to_numpy(val: Tensor, safe: Optional[bool] = None) → dict¶

回傳輸入張量對應的 np.ndarray。

此操作旨在作為 encode() 的反向操作。

參數:

val (torch.Tensor) – 要轉換為 numpy 的張量。
safe (bool) – 布林值，指示是否應針對規格的域對該值執行檢查。預設為 CHECK_SPEC_ENCODE 環境變數的值。

回傳：

一個 np.ndarray。

to_one_hot(val: Tensor, safe: Optional[bool] = None) → Tensor¶

將規格域中的離散張量編碼為其 one-hot 對應項。

參數:

val (torch.Tensor, optional) – 要進行 one-hot 編碼的張量。
safe (bool) – 布林值，指示是否應針對規格的域對該值執行檢查。預設為 CHECK_SPEC_ENCODE 環境變數的值。

回傳：

one-hot 編碼後的張量。

範例

>>> categ = Categorical(3)
>>> categ_sample = categ.zero()
>>> categ_sample
tensor(0)
>>> onehot_sample = categ.to_one_hot(categ_sample)
>>> onehot_sample
tensor([ True, False, False])

to_one_hot_spec() → OneHot¶

將規格轉換為等效的 one-hot 規格。

範例

>>> categ = Categorical(3)
>>> categ.to_one_hot_spec()
OneHot(
    shape=torch.Size([3]),
    space=CategoricalBox(n=3),
    device=cpu,
    dtype=torch.bool,
    domain=discrete)

type_check(value: Tensor, key: Optional[NestedKey] = None) → None¶

根據 TensorSpec dtype 檢查輸入值 dtype，如果它們不匹配，則引發例外。

參數:

value (torch.Tensor) – 要檢查其 dtype 的張量。
key (str, optional) – 如果 TensorSpec 具有鍵，則將根據指示鍵指向的規格檢查數值的 dtype。

unflatten(dim: int, sizes: Tuple[int]) → T¶

將 TensorSpec 扁平化。

有關此方法的更多資訊，請查看 unflatten()。

unsqueeze(dim: int)¶

傳回一個新的規格，其中包含一個以上的 singleton 維度（位於 dim 指示的位置）。

參數:: dim (int or None) – 應用 unsqueeze 運算的維度。

update_mask(mask)¶

設定一個遮罩，以防止在取樣時出現某些可能的結果。

遮罩也可以在規格的初始化期間設定。

參數:: mask (torch.Tensor or None) – 布林遮罩。如果為 None，則停用遮罩。否則，遮罩的形狀必須可擴展到等效 one-hot 規格的形狀。False 遮罩一個結果，而 True 使該結果不被遮罩。如果所有可能的結果都被遮罩，則在取樣時會引發錯誤。

範例

>>> mask = torch.tensor([True, False, True])
>>> ts = Categorical(3, (10,), dtype=torch.int64, mask=mask)
>>> # One of the three possible outcomes is masked
>>> ts.rand()
tensor([0, 2, 2, 0, 2, 0, 2, 2, 0, 2])

view(*shape) → T¶

重新塑造一個 TensorSpec。

更多關於這個方法的資訊，請查閱 reshape()。

zero(shape: Optional[Size] = None) → torch.Tensor | tensordict.base.TensorDictBase¶

傳回 box 中填滿零的張量。

注意

即使無法保證 0 屬於 spec domain，但此方法在違反此條件時不會引發例外。 zero 的主要用途是產生空的資料緩衝區，而不是有意義的資料。

參數:: shape (torch.Size) – zero-tensor 的形狀
回傳：: 在 TensorSpec box 中採樣的一個零填充張量。

zeros(shape: Optional[Size] = None) → torch.Tensor | tensordict.base.TensorDictBase¶: 指向 zero() 的代理。

DiscreteTensorSpec¶

文件

教學

資源