「DLFramework」 A311D NPU 神经网络模型部署【AML】

A311D NPU 原生 SDK 入门；
支持 Caffe/Tensorflow/Tflite/Darknet/Onnx/Keras/Pytroch 模型

1 资料

• 官方的资料
  • SDK: https://www.khadas.com/npu-toolkit-vim3

  • 文档：document-EN

    中文文档

  • demo：aml_npu_app | aml_npu_demo_binaries
    论坛
    A311D 使用
    示例代码： codrive |

2 模型转换

在 PC 端做

模型转换

操作步骤： aml_npu_sdk/acuity-toolkit/conversion_scripts>

./0_import_model.sh # 生成 json 和 data /1_quantize_model.sh # 生成 quantize ./2_export_case_code.sh #

参照《模型转换运行用户指南》第13页，修改 optimize 的值

shell 脚本内部支持多种模型，自己进行修改；

模型量化

1_quantize_model 文件中的各个参数的意思？

source-file

channel-mean-value

2_export_case_code 中参数什么意思

reorder-channel

channel-mean-value

Optimize

自己的模型需要修改什么

转yolo 教程，官方 https://docs.khadas.com/zh-cn/vim3/HowToTransformYolo.html

3 模型推理

直接跑结果怎么样，不用 cmake

./aml_obj_detect --video=test.mp4 --annotate

心得：多逛论坛

---

TOP

附录

A 参考资料

1. 点亮～黑夜. Jetson Nano and VIM3硬件参数对比及目标检测性能对比[EB/OL]. https://shliang.blog.csdn.net/article/details/114060919?utm_term=khadas&utm_medium=distribute.pc_aggpage_search_result.none-task-blog-2~all~sobaiduweb~default-0-114060919&spm=3001.4430. 2021-02-26/2021-04-21.

B 研究员