芯耀
446
本文旨在為已購買IVP02E盒子的用戶提供設備端的部署指南，使用此指南的前提：在開發(fā)系統上已安裝搭建好相應的框架；已完成模型的處理，包括：模型量化、模型轉換等；且已完成代碼工程的編譯，并通過相應框架生成設備端適配的可執(zhí)行程序，具體的操作流程請參考相應的《開發(fā)環(huán)境搭建指南》完成系統環(huán)境搭建。
開發(fā)環(huán)境：
- 操作系統及架構：Ubuntu 18.04 x86_64
- 內存：大于4G
- 儲存空間：大于10G
- 系統語言：en_US.UTF-8（MindStudio）
- 編譯器：g++或aarch64-linux-gnu-g++
- python及依賴的庫：python3.7.5
- 邊緣計算盒子型號：IVP02E
聲明——IVP02E內包含NNN以及SVP_NNN兩個算力核，適配昇騰以及SVP架構，架構圖如下：
現在開始進行設備端環(huán)境部署！Follow me~
環(huán)境部署步驟
步驟1：安裝CH340驅動；
步驟2：設備端插入網線、電源線、且通過Type-C線連接電腦；
步驟3：連接后，要在設備管理器查看是否連接成功，并記錄端口號
步驟4：通過串口工具連接設備端，可使用MobaXterm、Xshell等工具，選擇端口號，bps為115200；
步驟5：連接設備端后，執(zhí)行命令加載設備端驅動及ko文件，./insmod.sh以及./init.sh；
步驟6：根據連接的網口配置ip地址以及網關地址
ifconfig eth0 xxx.xxx.xxx.xxx netmask 255.255.255.0 up ?// ip地址，請自行填入
執(zhí)行route命令，進行網關配置
route add default gw xxx.xxx.xxx.xxx ?// 網關地址，請自行填入
配置完畢后，需要ping通本機的ip；
步驟7：yolov5網絡模型需要開發(fā)者自行準備，因昇騰框架暫不支持pt模型的轉換，所以需要開發(fā)者下載yolov5-master并通過腳本把pt模型轉換為onnx模型；
參考命令：python3.7.5 models/export.py --weights yolov5ts.pt --img 640 --batch 1
步驟8：通過MindStudio工具啟動ATC功能進行模型轉換，把yolov5的onnx模型文件轉換為SoC設備端識別的離線模型（.om模型），把轉換后的模型放入工程文件中，并進行編譯生成可執(zhí)行程序；
步驟9：需要在虛擬機以及設備端上安裝nfs，并且把編譯后的工程文件及所需的動態(tài)庫放在nfs文件夾下，之后在設備端通過nfs掛載到虛擬機的文件夾；
參考命令：
mount -t nfs ip地址:/xxx/xxx/xxx /mnt -o nolock
ip地址為您虛擬機的IP地址
/xxx/xxx/xxx為您虛擬機內nfs文件夾掛載路徑
步驟10：聲明SDK包內動態(tài)庫；
參考命令：
export LD_LIBRARY_PATH=/mnt/mpp/out/lib/npu
export ASCEND_AICPU_KERNEL_PATH=/mnt/mpp/out/lib/npu
聲明路徑為sdk包內mpp文件夾下動態(tài)庫的路徑
步驟11：Yolov5樣例共有3個功能
- 0.識別輸入數據并打印相關信息
- 1.多線程識別輸入數據并打印相關信息
- 2.使用MMZ內存進行動態(tài)批次識別輸入數據并打印相關信息
步驟12：執(zhí)行命令進行推理后會打印相關數據；
./sample_npu_main 0
以下為輸出示例
步驟13：配置了profiling相關參數的代碼后，模型推理完成時會在工程目錄下生成一個JOB文件夾，該文件夾內記錄了模型推理的性能指標；
步驟14：采集完成后需要執(zhí)行腳本進行解析性能指標，需要進入到msprof下執(zhí)行腳本，解析后會在JOB文件夾下生成sqlite文件夾，里面包含了各性能指標的db文件；
參考命令：
python3.7.5 msprof.py import -dir /home/hyq/rootfs/npu2 /src
步驟15：得到解析坐標后，執(zhí)行相應命令即可導出指標為可視化表格；
參考命令：
python3.7.5 msprof.py export summary -dir /home/hyq/rootfs/npu2/src --format csv
步驟16：以下為op_summary的表格示例，該表格內記錄了每一層算子的時間、推理耗時、調用接口耗時等性能指標。
至此，IVP02E智能視頻分析邊緣計算盒子的設備端環(huán)境部署成功！
