歡迎來到 ExecuTorch 文件

重要

v0.4.0 是 ExecuTorch 的 Beta 版本。從 v0.4.0 開始，API 遵循 API 生命週期和棄用政策，並且 .pte 二進位檔案格式符合 執行時間相容性政策。這有助於確保應用程式開發人員可以更新到最新版本的 ExecuTorch，而不會違反這些政策而破壞現有的整合程式碼。如果出現任何問題或相容性中斷，請在 GitHub 中回報它們。

我們歡迎來自社群的任何回饋、建議和錯誤報告，以幫助我們改進這項技術。請使用 PyTorch 論壇的 ExecuTorch 類別來討論和回饋關於 ExecuTorch 的意見，並使用我們的 GitHub 儲存庫來回報錯誤。

ExecuTorch 是一個 PyTorch 平台，提供基礎架構以在各種環境中運行 PyTorch 程式，從 AR/VR 穿戴裝置到標準的裝置端 iOS 和 Android 行動部署。ExecuTorch 的主要目標之一是實現 PyTorch 程式更廣泛的客製化和部署能力。

ExecuTorch 大量依賴 PyTorch 的技術，例如 torch.compile 和 torch.export。如果您不熟悉這些 API，建議您在深入研究 ExecuTorch 文件之前，先閱讀 PyTorch 文件中的相關資訊。

ExecuTorch 的原始碼託管在 GitHub 上，網址為 https://github.com/pytorch/executorch。

入門

本節的主題將幫助您開始使用 ExecuTorch。

什麼是 ExecuTorch？

ExecuTorch 的簡要介紹。在本節中，您將了解 ExecuTorch 的主要功能以及如何在您的專案中使用它們。

ExecuTorch 入門

關於如何開始使用 ExecuTorch 的逐步教學。

ExecuTorch Llama

了解如何透過 ExecuTorch 運行 Llama 模型

教學和範例

準備好進行實驗了嗎？查看一些 ExecuTorch 教學。

---

匯出至 ExecuTorch 教學

主題：匯出,委派,量化

關於匯出模型並將其降低到可在 ExecuTorch 運行時環境上執行的教學。

運行 ExecuTorch 模型 C++ 教學

主題：

關於在裝置上設定記憶體池、載入模型、設定輸入、執行模型以及檢索輸出的教學。

簡化的運行時 API 教學

主題：

關於在裝置上執行模型的簡化教學。

在 C++ 中管理張量記憶體教學

主題：

關於在使用張量時管理動態記憶體的教學。

使用 ExecuTorch 開發者工具分析模型

主題：devtools

關於使用 ExecuTorch 開發者工具來分析和分析模型，並連結回原始碼的教學。

在 Apple 平台上整合和執行 ExecuTorch

主題：iOS, macOS

關於在 iOS 上整合、使用和排除 ExecuTorch 運行時錯誤的教學。

構建 ExecuTorch iOS 範例應用程式

主題：委派,iOS

一個演示教學，說明如何將 ExecuTorch 建置到 iOS 框架中並運行 iOS 應用程式。

構建 ExecuTorch Android 範例應用程式

主題：委派,Android

一個演示教學，說明如何將 ExecuTorch 建置到 JNI 函式庫中並建置 Android 應用程式。

將模型降低為委派

主題：匯出,委派

一個端到端的範例，展示如何將模型降低為委派。

使用 XNNPACK 後端構建和執行 ExecuTorch

主題：匯出,後端,委派,量化,XNNPACK

一個演示教學，關於使用 XNNPACK 後端降低和匯出模型。

使用 Vulkan 後端建置和運行 ExecuTorch

主題：匯出,後端,委派,Vulkan

一個教學，引導您完成使用 Vulkan 後端建置 ExecuTorch 的過程。

使用 ARM Ethos-U 後端構建和執行 ExecuTorch

主題：匯出,後端,委派,ARM,Ethos-U

一個教學，引導您完成使用 ARM Ethos-U 後端建置 ExecuTorch 的過程。

使用 CoreML 後端建置和運行 ExecuTorch

主題：匯出,後端,委派,CoreML

一個教學，引導您完成使用 CoreML 後端建置 ExecuTorch 的過程。

使用 MediaTek 後端構建和執行 ExecuTorch

主題：匯出,後端,委派,MediaTek

一個教學，引導您完成使用 MediaTek 後端建置 ExecuTorch 的過程。

使用 MPS 後端構建和執行 ExecuTorch

主題：匯出,後端,委派,MPS,MPSGraph

一個教學，引導您完成使用 MPSGraph 後端建置 ExecuTorch 的過程。

使用 Qualcomm AI Engine Direct 後端構建和執行 ExecuTorch

主題：匯出,後端,委派,QNN

一個教學，引導您完成使用 Qualcomm AI Engine Direct 後端建置 ExecuTorch 的過程。

在 Xtensa HiFi4 DSP 上構建和執行 ExecuTorch

主題：匯出,自定義算子,DSP,Xtensa

一個教學，引導您完成使用自定義運算子為 Xtensa Hifi4 DSP 建置 ExecuTorch 的過程。