Skip to content

Commit

Permalink
Update docs/how_to/deploy/09-deploy_adreno.md
Browse files Browse the repository at this point in the history
Co-authored-by: sparanoid <[email protected]>
  • Loading branch information
Anleeos and sparanoid authored Nov 30, 2023
1 parent 04c2575 commit 5bf5138
Showing 1 changed file with 5 additions and 5 deletions.
10 changes: 5 additions & 5 deletions docs/how_to/deploy/09-deploy_adreno.md
Original file line number Diff line number Diff line change
Expand Up @@ -80,15 +80,15 @@ TVM 提供了简单的、用户友好的命令行工具以及专为开发者设

* 导入模型: 在此阶段,我们从知名框架(如 TensorFlow 、 PyTorch 、 ONNX 等)导入模型。该阶段将给定的模型转换为 TVM 的 relay 模块格式。或者也可以通过使用 TVM 的操作库手动构建 relay 模块。此处生成的 TVM 模块的是独立于图的表示形式的目标。

* 自动调整: 在此阶段,我们调整特定于目标的 TVM 生成的内核。自动调整过程需要目标设备的有效性,在如 Android 设备上的 Adreno™ 这样的远程目标中,我们使用 RPC 设置进行通信。本指南的后续部分将详细介绍 Android 设备的 RPC 设置。自动调整不是模型编译的必需步骤,但对于获得 TVM 生成的内核的最佳性能是必要的。
* 自动调整:在此阶段,我们调整特定于目标的 TVM 生成的内核。自动调整过程需要目标设备的有效性,在如 Android 设备上的 Adreno™ 这样的远程目标中,我们使用 RPC 设置进行通信。本指南的后续部分将详细介绍 Android 设备的 RPC 设置。自动调整不是模型编译的必需步骤,但对于获得 TVM 生成的内核的最佳性能是必要的。

* 编译: 在此阶段,我们为特定目标编译模型。鉴于我们在前一阶段自动调整了模块, TVM 编译利用调整日志以生成性能最佳的内核。 TVM 编译进程中产生包含内核的共享库、以 json 格式定义的图和以 TVM 特定格式的二进制参数文件。
* 编译:在此阶段,我们为特定目标编译模型。鉴于我们在前一阶段自动调整了模块, TVM 编译利用调整日志以生成性能最佳的内核。 TVM 编译进程中产生包含内核的共享库、以 json 格式定义的图和以 TVM 特定格式的二进制参数文件。

* 部署(或测试运行)到目标: 在此阶段,我们在目标上运行 TVM 编译输出。部署可以从 Python 环境中使用 RPC 设置。也可以使用 TVM 的本地工具进行,该工具可以为 Android 进行本地二进制交叉编译。在此阶段,我们可以在 Android 目标上运行已编译的模型,并对输出的正确性和性能方面进行单元测试。
* 部署(或测试运行)到目标:在此阶段,我们在目标上运行 TVM 编译输出。部署可以从 Python 环境中使用 RPC 设置。也可以使用 TVM 的本地工具进行,该工具可以为 Android 进行本地二进制交叉编译。在此阶段,我们可以在 Android 目标上运行已编译的模型,并对输出的正确性和性能方面进行单元测试。

* 应用集成: 本阶段涉及将 TVM 编译的模型集成到应用程序中。我们在这里讨论如何从 Androidcpp 本地环境或 JNI)中设置输入和获取输出的 TVM 运行时接口。
* 应用集成:本阶段涉及将 TVM 编译的模型集成到应用程序中。我们在这里讨论如何从 Androidcpp 本地环境或 JNI)中设置输入和获取输出的 TVM 运行时接口。

* 高级用法: 本部分涵盖了高级用户感兴趣的主题,如查看生成的源代码、更改模块的精度等。
* 高级用法:本部分涵盖了高级用户感兴趣的主题,如查看生成的源代码、更改模块的精度等。

此教程以下各节将涵盖上述内容。

Expand Down

0 comments on commit 5bf5138

Please sign in to comment.