当前位置: 首页 > 科技观察

从EasyDL模型训练到EdgeBoard推理

时间:2023-03-18 16:18:12 科技观察

摘要:EdgeBoard是百度打造的一系列基于FPGA的嵌入式AI解决方案硬件;EasyDL是百度推出的一站式AI定制化训练与服务平台。本文详细介绍了如何使用EasyDL进行模型训练,然后部署到EdgeBoard,缩短模型训练到推理实现的路径,提高开发效率。EdgeBoard是百度自主研发的AI软硬件一体化深度学习加速套件。可提供强大的计算能力,支持定制化模型,适配不同场景下的终端设备,大幅提升设备端的AI推理能力。它具有高性能和高通用性。、易于集成等优点。EdgeBoard还可以与百度大脑的开放能力无缝对接,可以轻松地将在EasyDL和AIStudio平台上定制的AI模型完美适配到EdgeBoard。本文将介绍如何将EasyDL训练好的模型离线部署到EdgeBoard,实现AI的终端应用。EasyDL定制化训练与服务平台可一站式定制AI模型,且完全界面化操作,少量数据即可训练出高精度AI模型。图1.EasyDL界面接下来,我们将以狗的分类为例,介绍从训练到推理部署。首先介绍一下使用EasyDL进行模型训练。1.选择训练平台要完成对狗的分类,需要使用图像分类模型进行训练。点击EasyDL首页开始训练,选择“经典版”训练平台,模型类型选择图像分类,如图2所示。图2.模型类型2.准备数据集下面是我们准备的数据准备好了,一共8个类别,每个类别大约使用50张图片进行训练,剩下的20张图片用于推理测试。图3.8种狗的照片文件图4.狗的照片3.创建数据集根据EasyDL训练模型的规则,我们首先创建一个数据集,并将收集到的数据放入每个类型的文件夹中,如图2,然后压缩成一个zip文件,然后将数据集上传到EasyDL平台,如图5。图5.将数据集上传到EasyDL平台4.创建模型数据后set创建完成后,创建模型并按要求填写相应信息,如图6所示。图6.创建模型5.训练模型在训练模型页面,应用类型选择“离线服务”,“为算法选择“Highprecision”和“Highperformance”,添加数据集,开始训练,如图7所示。图7.训练模型6.发布模型训练模型需要一定的时间。模型训练完成后,我们点击申请发布,跳转到发布模型页面,选择“软硬件一体化解决方案”的“EdgeBoard+专用SDK”,提交申请,如图8所示。图8.发布模型5.下载SDK审核成功后,点击“服务详情”,“下载SDK”,如图9。图9.下载SDK至此,EasyDL上的模型训练结束,接下来将转向EdgeBoard的推理实现。在图9中,我们将看到“管理序列号”按钮。如果你购买了EdgeBoard,在跳转页面中会有一个EdgeBoard专用的序列号,这是EasyDL模型部署到EdgeBoard上的通行证。图10.EdgeBoard专用序列号现在我们开始将模型部署到EdgeBoard,下图是EdgeBoardFZ9A系列硬件,EdgeBoard技术文档链接为:https://ai.baidu.com/docs#/EdgeBoard%20quick%20start/top根据该技术文档,需要通过FTP或者samba工具将EasyDL离线SDK传输到EdgeBoard系统中,然后将EdgeBoard专用序列号填入离线SDK中。图11.EdgeBoard上的文件EdgeBoard内置了Linux系统,我们将使用命令行进行后续的部署操作。由于离线SDK首次使用需要在线激活,因此请将EdgeBoard连接到路由器并连接外网。图12.测试网络连接时,将EdgeBoard的时间修改为当前时间,否则离线SDK激活可能会失败。图13.修改本地时间后解压离线SDK,进入EasyDL文件夹,解压cpp文件夹Bag中的tar。图14.解压cpp文件中的tar包。根据官方文档,编辑cpp-->demo文件夹下的demo.cpp文件,在指定位置填入EdgeBoard专用序列号,如图15所示。修改后,新建build文件夹demo文件夹并编译它。图15.添加序列号图16.编译流程编译完成后,开始模型推理。我们在RES文件夹下放置一张图片(如图17),调用RES资源文件夹下的模型,以及测试图片的路径,在build下运行命令,如图18。图17.照片待测图18.执行推理预测从上面打印的信息可以看出,EasyDL模型在EdgeBoard上对corgi做出了完美的预测,scorep=0.999023,说明99%的概率是CorgiKei,是不是准确?如果这样看起来不直观,EasyDL的SDK也支持http服务调用,我们来启动http服务,如图19所示。图19.开启http服务打开http服务后,写入http://{EdgeBoardipaddress}:24401在浏览器中,比如EdgeBoard的IP是192.168.1.254,就写http://192.168.1.254:24401出现如图18所示的显示界面。图20http服务展示界面点击上传图片,选择测试集中的狗的图片,结果马上就出来了。置信度为1,表示它是100%可爱的比熊犬!图21.上传图片进行推理和预测至此,我们完成了一个狗类分类的模型训练和离线部署。好处据可靠八卦:EdgeBoard开售,史上最低价,降价1000元,有兴趣的可以看看:https://aim.baidu.com/product/5b8d8817-9141-4cfc-ae58-640e2815dfd4