我们都看到了关于有多少设备将很快连接到物联网(IoT)的预测。例如，IDC预测到2025年这一数字将超过410亿。关于将释放的机会使我们的家庭、工作、娱乐和旅行更加高效和可持续，已经有很多报道。但是，支撑这些进步的数据爆炸式增长让那些创造产品、服务和支持基础设施的人头疼不已。许多早期的物联网设备依靠云来处理它们收集的数据。该模型的部分驱动因素是云中实际上无限的计算能力，以及许多物联网设备的板载处理能力受限。将数据上传到云端的局限性然而，向云端发送数据或从云端发送数据有其缺点。首先，传输数据会消耗能量和带宽。更多数据意味着您需要更昂贵且更有限的网络资源。其次，将数据发送到云端会带来延迟，这会限制某些应用程序的有效性。第三，外部信息带来隐私和安全风险。例如，智能家居设备收集的数据会揭示您在家和外出时的大量信息。如果将此信息发送到云端，您能确定它是安全完成的吗？它以什么形式存储在哪里？谁有权访问它？在边缘引入智能的好处随着越来越多的设备收集更多（和更敏感的数据）数据，应对这些挑战的需求变得越来越迫切。这是“边缘智能”兴起背后的主要驱动力之一。在这个模型中，不是将所有数据发送到云端，而是在本地网络的“边缘”，靠近连接设备的地方完成关键处理和决策。这减少了上述延迟、能源消耗和带宽使用，同时使用户能够将私人数据保存在他们自己的基础设施范围内。边缘智能的核心是机器学习。目前，在这种情况下，我们主要谈论机器推理。这是边缘设备使用预先训练的机器学习模型根据本地传感器收集的新数据做出决策的地方。图1：ABI的研究人员预测，到2024年，支持板载AI推理的设备出货量将达到20亿。（来源ABI；图片由NXPSemiconductors提供）推动向边缘AI的转变改进推理处理，尤其是加速推理的技术，可以在这种资源受限的环境中显着增加推理。第一代机器学习加速器主要是基于软件的，CPU运行指令集。第二代引入了专用硬件，例如GPU和DSP。今天，我们有了第三代，它使用了基于硬件的修剪和压缩等功能。在硬件中完成的工作越多，由于减少了软件和CPU周期使用，流程的能源效率就越高。图2：使用机器学习加速器可以看到能源效率的提高。（来源：NXPSemiconductors）边缘智能今天可以实现什么作为人类，我们的大部分交流不仅仅是通过语言：我们的语调、面部表情和手势都有助于我们本能地交流和理解彼此。使用基于边缘的推理，今天的设计师可以使他们的产品适应这些信号，以设计出越来越自然的交互体验。技术可以包括面部和其他物体和手势识别、语音识别、音调分析和自然语言处理。在其他地方，智能边缘设备可以增强安全性。例如，可以训练智能家居边缘工具包识别危险信号，例如警报响起、人摔倒、玻璃破碎、水龙头滴水或奔跑。一旦检测到问题，系统就会提醒车主，使他们能够做出相应的反应。下一步是什么？在接下来的几年里，很可能会出现许多利用这种功能日益强大的边缘智能的新物联网产品和服务。我们讨论了目前如何使用第三代人工智能加速。未来可能包括神经形态或内存计算、尖峰神经网络或最终的量子人工智能。这些发展将有助于加速目前正在进行的另一个趋势，即能够在边缘实施机器学习算法的实际训练。随着我们的技术变得更有用、更安全和更可持续，这对我们的设计师、工程师、企业和消费者来说将是一个激动人心的时刻。
