SemiDrive x9 AI 开发环境搭建分开发机端,开发板端。
主要的工具是SDNN, 它是一个基于开源编译器框架TVM的端到端的AI编译器框架, Semidrive对TVM编译器框架做了适配,主要特性如下:
支持操作系统:Android 、 Linux 和 QNX ;
支持推理后端:CPU 、 GPU 、 SlimAI 和 AIPU ;
支持开发及部署语言:C++ 和 Python ;
支持 异构 和 同构 模型部署模式;
支持 多进程 和 多线程 应用的开发;
以 ubuntu 18.04 为例,安装 开发机端环境。
1.安装docker
$ sudo apt-get update
$ sudo apt install apt-transport-https ca-certificates curl software-properties-common
$ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
$ sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu focal stable"
$ sudo apt-get update
$ sudo apt-get install docker-ce docker-ce-cli containerd.io
2. 从官网下载docker镜像后解压镜像
$ tar zxvf sdnn_docker_{版本号}.tgz
$ ls *.img
sdnn_docker_{版本号}.img
3. 加载镜像
$ docker load -i sdnn_docker_{版本号}.img
$ docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
sdnn v3.1.0 756501bfa3c0 17 hours ago 24.3GB
4. 创建SDNN 开发容器
$ docker run -it --rm \
--name ${容器名} \
-v ${挂载开发机中的目录}:${容器内所映射的目录} \
-e ${容器中的环境变量} \
${镜像名}:${标签名} /bin/bash
$ docker run -it --name sdnn_$USER -v ${PWD}:$HOME sdnn:v3.1.0 /bin/bash
5. 进入容器安装SDNN
$ pip install sdnn-{sdnn版本号}-{python工具版本号}-{主机平台}.whl
结果如下:
开发板端:
1. 使用 sdnn_deploy.run 部署包,将其放到板子上任意路径,执行下述命令,可实现库的自动部署:
$ sh ./sdnn_deploy.run
2. 上述操作后,libtvm_runtime.so 、 opencv 和 libc++_shared 库都将自动部署到 /vendor/lib64 目录。
环境搭建完成!
登录大大通,提问/评论,获取技术文档等更多资讯
全部0条评论
快来发表一下你的评论吧 !