当前位置: 首页 > 科技观察

ML和IOT

时间:2023-03-14 00:32:55 科技观察

人工智能在智能家居设备中的融合是一项正在被大量研究的常规技术。世界各地的研究人员都在努力使人工智能的应用和实施更快更好。多年来,人类遇到了人工智能带来潜在突破的例子。无论是早期发现心脏病还是发现历史事件,人工智能自诞生以来都取得了长足的进步。为了减轻日常琐事,麻省理工学院(MIT)和国立台湾大学的研究人员联手将深度神经网络嵌入到微控制器中。这意味着可以在智能可穿戴设备和家用电器中实现微型芯片形式的人工智能,从而实现物联网(设备)和人工智能的高级融合。这篇名为《MCUNet:物联网设备上的微小深度学习》的研究论文将于12月在神经信息处理系统会议上发表。研究人员希望这种方法能够通过在物联网设备的传感器附近进行数据分析来扩大人工智能的应用范围。了解MCUnet研究人员发明的设备称为MCUnet。它是一种神经网络架构,可以在现成的微控制器上实现ImageNet规模的深度学习。ImageNet是一个图像数据库,其中每个节点由数千张图像描述。在此模型中,深度学习设计和推理库被联合优化,以消除传统微控制器中片上内存有限的挑战并减少内存使用。TinyNAS是一种深度学习设计,采用两阶段神经架构搜索(NAS)方法,可处理各种微控制器上微小而多样的内存限制。研究指出,TinyNAS通过首先自动优化搜索空间来适应微小的资源约束,然后在优化后的空间中进行神经架构搜索来解决这个问题。TinyNAS通过缩放输入分辨率和模型宽度生成不同的搜索空间,然后收集搜索空间内满足网络的计算失败的分布来评估其优先级。此外,TinyNAS依赖于搜索空间可以容纳的洞察力。在内存限制下失败越多,深度学习模型越好。实验表明优化后的空间提高了NAS搜索模型的准确率。TinyNAS可以以低搜索成本自动处理与传统微控制器相关的各种约束,例如设备、延迟、能量、内存等。研究人员指出,TinyEngine是一个内存高效的推理库,消除了不必要的内存开销,因此扩展了搜索空间以适应更大的深度学习模型,并具有更高的准确性。由于推理库是基于解释的并且需要额外的运行时内存,因此TinyEngine编译了一种基于代码生成器的方法,该方法消除了内存开销并适应内存调度而不是分层优化以更好地制定减少内存使用的方法。战略。最后,针对不同级别的专门计算优化,即循环平铺、循环展开和OP融合,可加快推理速度。研究人员观察到,与传统的深度学习相比,MCUNet通过系统算法协同设计更好地利用资源。研究人员得出结论,现有模型在外壳微控制器上实现了创纪录的ImageNet精度70.7%。