“我们都看到了关于有多少设备将很快连接到物联网(IoT)的预测，”恩智浦半导体。例如，IDC预测，到2025年，这个数字将超过410亿。关于这将释放的机会，使我们的家庭、工作、娱乐和旅行更加高效和可持续，已经写了很多。但是，支撑这些进步的数据爆炸式增长给那些创造产品、服务和支持基础设施的人带来了问题。许多早期的物联网设备依靠云来处理它们收集的数据。该模型的部分驱动力是云中实际上无限的计算能力，以及许多物联网设备的板载处理能力受限。卸载到云的局限性然而，将数据发送到云和从云发送数据有其缺点。首先，传输数据需要能量和带宽。更多数据意味着您需要更多这些昂贵且有限的资源。其次，将数据发送到云端会带来延迟，这会限制某些应用程序的有效性。第三，车外信息带来隐私和安全风险。例如，智能家居设备收集的数据会揭示很多关于你何时在家和何时离开的信息。如果将这些信息发送到云端，你能确定它是安全的吗？它存储在哪里以及以什么形式存储？谁能得到它？随着越来越多的设备收集更多（和更敏感的）数据，应对这些挑战的需求变得越来越紧迫。这是“智能边缘”兴起背后的主要驱动力之一。在这个模型中，关键处理和决策不会发送到云端，而是发生在本地网络的“边缘”，靠近连接的设备。这减少了上述延迟、能源消耗和带宽使用，同时允许用户将私人数据保存在他们自己的基础设施范围内。智能边缘的核心是机器学习。现在，我们主要谈论推理。这是边缘设备使用预先训练的机器学习模型根据本地传感器收集的新数据做出决策的地方。在边缘推动向AI的转变在这个资源受限的环境中，推理处理的改进，特别是加速推理的技术，使得推理的显着增长成为可能。第一代机器学习加速器（如果它们真的是加速器的话）主要是基于软件的，CPU运行指令集。第二代引入了专用硬件，例如GPU和DSP。今天，我们有了第三代，它使用了基于硬件的修剪和压缩等功能。在硬件上完成的工作越多，过程的能源效率就越高，因为您减少了软件和CPU周期的使用。今天的智能优势可以实现什么作为人类，我们的大部分交流不仅仅是通过语言：我们的语调、面部表情和手势都可以帮助我们本能地交流和理解对方。使用基于边缘的推理，今天的设计师可以让他们的产品接收这些信号，创造越来越自然的交互体验。技术可以包括面部和其他物体和手势识别、语音识别、音调分析和自然语言处理。在其他地方，智能边缘设备可以提高安全性。例如，可以训练智能家居边缘工具包识别危险信号，例如警报响起、人摔倒、玻璃破碎或水龙头滴水或滴水。一旦检测到问题，系统就会提醒车主并让他们做出相应的反应。下一步是什么？在接下来的几年里，许多新的物联网产品和服务将进入市场，利用这种不断增长的智能。如何加速第三代人工智能的能力。未来几代可能包括神经形态或内存计算、尖峰神经网络或最终的量子人工智能。这些发展将有助于加速目前正在进行的另一个趋势，即在边缘实现机器学习算法的实际训练。
