MindOCR支持Ascend310/Ascend310P设备的推理。
请确保系统正确安装了昇腾AI处理器配套软件包,如果没有安装,请先参考安装昇腾AI处理器配套软件包小节进行安装。
MindOCR后端支持ACL和MindSpore Lite两种推理模式,使用ACL模式推理前需使用ATC工具将模型转换成om格式,使用MindSpore Lite推理前需使用converter_lite工具将模型转换成MindIR格式,具体区别如下:
ACL | Mindspore Lite | |
---|---|---|
转换工具 | ATC | converter_lite |
推理模型格式 | om | MindIR |
对于MindOCR的ACL方式推理,目前Python侧依赖于MindX的Python API接口,该接口暂只支持Python3.9。
环境 | 版本 |
---|---|
Python | 3.9 |
MindX | 3.0.0 |
在Python3.9环境基础上,下载MindX的mxVision SDK安装包,参考指导教程进行安装,主要步骤如下:
# 增加可执行权限
chmod +x Ascend-mindxsdk-mxvision_{version}_linux-{arch}.run
# 执行安装命令,如果提示需指定cann包路径,则增加参数如:--cann-path=/usr/local/Ascend/latest
./Ascend-mindxsdk-mxvision_{version}_linux-{arch}.run --install
# 设置环境变量
source mxVision/set_env.sh
如果使用python接口, 安装完毕之后测试一下mindx是否可以正常导入:python -c "import mindx"
如果提示找不到mindx,则转到mxVision/python目录下,安装对应的whl包:
cd mxVision/python
pip install *.whl
如果使用C++接口则无需执行上述步骤。
对于MindOCR的MindSpore Lite推理,需要安装2.0.0-rc1或以上版本的MindSpore Lite的云侧推理工具包。
先下载Ascend版的云侧版本的推理工具包tar.gz文件,以及Python接口Wheel包。
下载地址中提供了3.7版本的Python包,如需其它版本可参考编译教程。
推理工具包安装时直接解压即可,并注意设置环境变量:
export LITE_HOME=/your_path_to/mindspore-lite
export LD_LIBRARY_PATH=$LITE_HOME/runtime/lib:$LITE_HOME/runtime/third_party/dnnl:$LITE_HOME/tools/converter/lib:$LD_LIBRARY_PATH
export PATH=$LITE_HOME/tools/converter/converter:$LITE_HOME/tools/benchmark:$PATH
如果使用python接口,使用pip安装所需的whl包
pip install mindspore_lite-{version}-{python_version}-linux_{arch}.whl
如果使用C++接口,则无需安装。