Rprop¶

class torch.optim.Rprop(params, lr=0.01, etas=(0.5, 1.2), step_sizes=(1e-06, 50), *, capturable=False, foreach=None, maximize=False, differentiable=False)[source][source]¶

實作具彈性的反向傳播演算法 (resilient backpropagation algorithm)。

\begin{aligned} &\rule{110mm}{0.4pt} \\ &\textbf{input} : \theta_0 \in \mathbf{R}^d \text{ (params)},f(\theta) \text{ (objective)}, \\ &\hspace{13mm} \eta_{+/-} \text{ (etaplus, etaminus)}, \Gamma_{max/min} \text{ (step sizes)} \\ &\textbf{initialize} : g^0_{prev} \leftarrow 0, \: \eta_0 \leftarrow \text{lr (learning rate)} \\ &\rule{110mm}{0.4pt} \\ &\textbf{for} \: t=1 \: \textbf{to} \: \ldots \: \textbf{do} \\ &\hspace{5mm}g_t \leftarrow \nabla_{\theta} f_t (\theta_{t-1}) \\ &\hspace{5mm} \textbf{for} \text{ } i = 0, 1, \ldots, d-1 \: \mathbf{do} \\ &\hspace{10mm} \textbf{if} \: g^i_{prev} g^i_t > 0 \\ &\hspace{15mm} \eta^i_t \leftarrow \mathrm{min}(\eta^i_{t-1} \eta_{+}, \Gamma_{max}) \\ &\hspace{10mm} \textbf{else if} \: g^i_{prev} g^i_t < 0 \\ &\hspace{15mm} \eta^i_t \leftarrow \mathrm{max}(\eta^i_{t-1} \eta_{-}, \Gamma_{min}) \\ &\hspace{15mm} g^i_t \leftarrow 0 \\ &\hspace{10mm} \textbf{else} \: \\ &\hspace{15mm} \eta^i_t \leftarrow \eta^i_{t-1} \\ &\hspace{5mm}\theta_t \leftarrow \theta_{t-1}- \eta_t \mathrm{sign}(g_t) \\ &\hspace{5mm}g_{prev} \leftarrow g_t \\ &\rule{110mm}{0.4pt} \\[-1.ex] &\bf{return} \: \theta_t \\[-1.ex] &\rule{110mm}{0.4pt} \\[-1.ex] \end{aligned}

關於此演算法的更多詳細資訊，請參考論文 A Direct Adaptive Method for Faster Backpropagation Learning: The RPROP Algorithm。

參數

params (iterable) – 可迭代的參數或具名參數 (named_parameters) 以進行優化，或是定義參數群組的可迭代字典 (iterable of dicts)。當使用 named_parameters 時，所有群組中的所有參數都應該被命名。
lr (float, optional) – 學習率 (learning rate) (預設：1e-2)
etas (Tuple[float, float], optional) – 一對 (etaminus, etaplus)，它們是乘法增加和減少因子 (預設：(0.5, 1.2))
step_sizes (Tuple[float, float], optional) – 一對最小和最大允許的步長 (預設：(1e-6, 50))
capturable (bool, optional) – 此實例是否可以安全地在 CUDA 圖中捕獲。傳遞 True 可能會損害未繪製圖表的效能，因此如果您不打算繪製此實例的圖表，請將其保留為 False (預設：False)
foreach (bool, optional) – 是否使用優化器的 foreach 實作。如果使用者未指定 (因此 foreach 為 None)，我們將嘗試在 CUDA 上使用 foreach 而不是 for 迴圈實作，因為它通常效能顯著更高。請注意，由於中間體是 tensorlist 而不是僅僅一個張量，因此 foreach 實作使用的峰值記憶體比 for 迴圈版本多約 ~ sizeof(params)。如果記憶體受到限制，請一次批次處理較少的參數通過優化器，或將此標誌切換為 False (預設：None)
maximize (bool, optional) – 相對於參數最大化目標，而不是最小化 (預設：False)
differentiable (bool, optional) – 是否應在訓練期間透過優化器步驟進行 autograd。否則，step() 函數會在 torch.no_grad() 內容中執行。設定為 True 可能會損害效能，因此如果您不打算透過此實例運行 autograd，請將其保留為 False (預設：False)

add_param_group(param_group)[source]¶

將一個參數群組添加到 Optimizer 的 param_groups。

當微調預訓練網路時，這可能很有用，因為可以將凍結層設為可訓練，並在訓練過程中將其添加到 Optimizer 中。

參數: param_group (dict) – 指定應優化的張量以及群組特定的優化選項。

load_state_dict(state_dict)[source]¶

載入優化器狀態。

參數: state_dict (dict) – 優化器狀態。應該是從調用 state_dict() 返回的物件。

注意

參數的名稱（如果它們存在於 state_dict() 中每個參數群組的 “param_names” 鍵下）將不會影響載入過程。為了將參數名稱用於自訂案例（例如，當載入狀態字典中的參數與優化器中初始化的參數不同時），應該實作自訂 register_load_state_dict_pre_hook 以相應地調整載入的字典。如果 param_names 存在於載入的狀態字典 param_groups 中，它們將被保存並覆蓋優化器狀態中的當前名稱（如果存在）。如果它們不存在於載入的狀態字典中，則優化器 param_names 將保持不變。

register_load_state_dict_post_hook(hook, prepend=False)[source]¶

註冊一個 load_state_dict 的後置 hook，它將在調用 load_state_dict() 之後被調用。它應具有以下簽名：

hook(optimizer) -> None

optimizer 參數是正在使用的優化器實例。

在對 self 調用 load_state_dict 之後，hook 將以參數 self 被調用。註冊的 hook 可用於在 load_state_dict 載入 state_dict 之後執行後處理。

參數

hook (Callable) – 要註冊的使用者定義的 hook。
prepend (bool) – 如果為 True，則提供的後置 hook 將在 load_state_dict 上所有已註冊的後置 hook 之前觸發。否則，提供的 hook 將在所有已註冊的後置 hook 之後觸發。(預設：False)

回傳值

一個 handle，可用於通過調用 handle.remove() 來刪除新增的 hook。

回傳類型

torch.utils.hooks.RemoveableHandle

register_load_state_dict_pre_hook(hook, prepend=False)[source]¶

註冊一個 load_state_dict 的前置 hook，它將在調用 load_state_dict() 之前被調用。它應具有以下簽名：

hook(optimizer, state_dict) -> state_dict or None

optimizer 參數是正在使用的優化器實例，state_dict 參數是使用者傳遞給 load_state_dict 的 state_dict 的淺拷貝。 hook 可以在原地修改 state_dict，或者選擇性地回傳一個新的 state_dict。如果回傳一個 state_dict，它將被用於載入到優化器中。

在對 self 調用 load_state_dict 之前，hook 將以參數 self 和 state_dict 被調用。註冊的 hook 可用於在調用 load_state_dict 之前執行預處理。

參數

hook (Callable) – 要註冊的使用者定義的 hook。
prepend (bool) – 如果為 True，則提供的前置 hook 將在 load_state_dict 上所有已註冊的前置 hook 之前觸發。否則，提供的 hook 將在所有已註冊的前置 hook 之後觸發。(預設：False)

回傳值

一個 handle，可用於通過調用 handle.remove() 來刪除新增的 hook。

回傳類型

torch.utils.hooks.RemoveableHandle

register_state_dict_post_hook(hook, prepend=False)[source]¶

註冊一個 state dict 的後置 hook，它將在調用 state_dict() 之後被調用。

它應具有以下簽名：

hook(optimizer, state_dict) -> state_dict or None

在 self 上產生 state_dict 之後，hook 將以參數 self 和 state_dict 被調用。hook 可以在原地修改 state_dict，或者選擇性地回傳一個新的 state_dict。註冊的 hook 可用於在回傳 state_dict 之前對其執行後處理。

參數

hook (Callable) – 要註冊的使用者定義的 hook。
prepend (bool) – 如果為 True，則提供的後置 hook 將在 state_dict 上所有已註冊的後置 hook 之前觸發。否則，提供的 hook 將在所有已註冊的後置 hook 之後觸發。(預設：False)

回傳值

一個 handle，可用於通過調用 handle.remove() 來刪除新增的 hook。

回傳類型

torch.utils.hooks.RemoveableHandle

register_state_dict_pre_hook(hook, prepend=False)[source]¶

註冊一個 state dict 的前置 hook，它將在調用 state_dict() 之前被調用。

它應具有以下簽名：

hook(optimizer) -> None

optimizer 參數是正在使用的優化器實例。在對 self 調用 state_dict 之前，hook 將以參數 self 被調用。註冊的 hook 可用於在調用 state_dict 之前執行預處理。

參數

hook (Callable) – 要註冊的使用者定義的 hook。
prepend (bool) – 如果為 True，則提供的前置 hook 將在 state_dict 上所有已註冊的前置 hook 之前觸發。否則，提供的 hook 將在所有已註冊的前置 hook 之後觸發。(預設：False)

回傳值

一個 handle，可用於通過調用 handle.remove() 來刪除新增的 hook。

回傳類型

torch.utils.hooks.RemoveableHandle

register_step_post_hook(hook)[原始碼]¶

註冊一個最佳化器步驟後置鉤子，該鉤子將在最佳化器步驟之後被呼叫。

它應具有以下簽名：

hook(optimizer, args, kwargs) -> None

optimizer 參數是正在使用的優化器實例。

參數: hook (Callable) – 要註冊的使用者定義的 hook。
回傳值: 一個 handle，可用於通過調用 handle.remove() 來刪除新增的 hook。
回傳類型: torch.utils.hooks.RemovableHandle

register_step_pre_hook(hook)[原始碼]¶

註冊一個最佳化器步驟前置鉤子，該鉤子將在最佳化器步驟之前被呼叫。

它應具有以下簽名：

hook(optimizer, args, kwargs) -> None or modified args and kwargs

optimizer 參數是正在使用的最佳化器實例。如果 args 和 kwargs 被前置鉤子修改，則轉換後的值將作為包含 new_args 和 new_kwargs 的元組返回。

參數: hook (Callable) – 要註冊的使用者定義的 hook。
回傳值: 一個 handle，可用於通過調用 handle.remove() 來刪除新增的 hook。
回傳類型: torch.utils.hooks.RemovableHandle

state_dict()[原始碼]¶

以 dict 形式返回最佳化器的狀態。

它包含兩個條目

state：一個保存目前最佳化狀態的字典。它的內容
因最佳化器類別而異，但有一些共同的特徵。例如，狀態是按參數儲存的，並且參數本身不會被儲存。state 是一個將參數 ID 映射到字典的字典，其中字典包含每個參數的狀態。
param_groups：一個包含所有參數群組的列表，其中每個
參數群組是一個字典。每個參數群組都包含特定於最佳化器的元數據，例如學習率和權重衰減，以及群組中參數 ID 的列表。如果參數群組使用 named_parameters() 初始化，則名稱內容也將保存在狀態字典中。

注意：參數 ID 可能看起來像索引，但它們只是將狀態與 param_group 關聯的 ID。從 state_dict 載入時，最佳化器會壓縮 param_group params（int ID）和最佳化器 param_groups（實際的 nn.Parameter s），以便在沒有額外驗證的情況下匹配狀態。

返回的狀態字典可能看起來像這樣

{
    'state': {
        0: {'momentum_buffer': tensor(...), ...},
        1: {'momentum_buffer': tensor(...), ...},
        2: {'momentum_buffer': tensor(...), ...},
        3: {'momentum_buffer': tensor(...), ...}
    },
    'param_groups': [
        {
            'lr': 0.01,
            'weight_decay': 0,
            ...
            'params': [0]
            'param_names' ['param0']  (optional)
        },
        {
            'lr': 0.001,
            'weight_decay': 0.5,
            ...
            'params': [1, 2, 3]
            'param_names': ['param1', 'layer.weight', 'layer.bias'] (optional)
        }
    ]
}

回傳類型: Dict[str, Any]

step(closure=None)[原始碼][原始碼]¶

執行單個最佳化步驟。

參數: closure (Callable, optional) – 一個重新評估模型並返回損失的閉包。

zero_grad(set_to_none=True)[原始碼]¶

重置所有優化過的 torch.Tensor 的梯度。

參數: set_to_none (bool) – 不是將梯度設定為零，而是將梯度設定為 None。這通常會減少記憶體佔用，並且可以適度提高效能。但是，它會改變某些行為。例如：1. 當使用者嘗試存取梯度並對其執行手動操作時，None 屬性或充滿 0 的 Tensor 的行為會有所不同。2. 如果使用者請求 zero_grad(set_to_none=True)，然後進行反向傳播，則保證對於沒有收到梯度的參數， .grad 為 None。3. 如果梯度為 0 或 None， torch.optim 最佳化器的行為會有所不同（在一個例子中，它會以梯度 0 執行步驟，而在另一個例子中，它會完全跳過該步驟）。

Rprop¶

文件

教學

資源