当前位置: 首页 > 科技观察

如何选择边缘人工智能设备

时间:2023-03-15 00:17:12 科技观察

边缘计算已成为最受关注的技术趋势之一,鉴于所有这些话题,您可能认为是时候为您的物联网网络投资智能边缘技术了。然而,在我们开始购买新的边缘设备之前,让我们先讨论一下边缘计算到底是什么、它有什么作用,以及应用程序是否可以从边缘技术中受益。边缘计算可以为IoT网络增加很大的灵活性、速度和智能,但重要的是要了解边缘AI设备不会解决智能网络应用程序面临的所有挑战。在本文的最后,在确定边缘技术是否适合应用后,我们讨论了购买者在评估边缘AI设备时应考虑的主要特征和注意事项。什么是边缘计算?边缘计算将物联网提升到云边缘的更高层次,原始数据可以实时转化为价值。通过在网络中重新分配数据处理工作,提升连接节点、端点和其他智能设备的重要性和治理。边缘计算几乎与云计算完全相反,数据从分布式网络流入,在集中式数据中心进行处理,结果往往会传回原来的分布式网络,以触发动作或产生变化。然而,远距离传输大量数据是有代价的。这些成本可以用金钱来衡量,但也可以用其他重要的方式来衡量,例如电力或时间。这就是边缘计算的用武之地。当功率、带宽和延迟真的很重要时,边缘计算可能就是答案。与数据可能传输数百英里进行处理的集中式云计算不同,边缘计算使数据能够在感测、创建或驻留数据的同一网络边缘位置进行处理。这意味着处理延迟几乎可以忽略不计,并且功率和带宽要求通常会大大降低。当今边缘计算的主要推动力之一是半导体制造商在不显着增加功耗的情况下提高处理能力的方式。这意味着边缘处理器可以在不消耗更多电力的情况下对它们获取的数据做更多的事情。这允许更多数据留在边缘而不是传输到核心。除了降低整体系统功耗外,这还增加了响应时间并改善了数据隐私。受益于这一发展的一些技术包括人工智能和机器学习,但这些技术也依赖于降低数据获取成本,同时提高数据隐私级别。成本和隐私问题都可以通过边缘处理来解决。就AI和ML等新兴趋势而言,这两种技术传统上都需要大量资源,远远超过端点或智能设备通常可用的资源。现在,由于硬件和软件级别的进步,还可以将这些支持技术嵌入到位于网络边缘的更小、资源更受限的设备中。评估边缘AI选择能够执行边缘处理(可能包括运行AI算法或ML推理引擎)的平台需要仔细评估。简单的传感器和执行器,即使是物联网的一部分,也可以使用相对较小的集成设备来实现。增加边缘处理量将需要更强大的平台,可能使用高度并行的架构。通常,这意味着GPU,但如果平台过于强大,它就会成为网络边缘有限资源的负担。同样重要的是要记住,边缘设备本质上是一个现实世界的接口,因此它可能需要支持一些常见的接口技术,例如以太网、GPIO、CAN、串行和/或USB)。它还可能需要支持外围设备,例如相机、键盘和显示器。边缘也可能是一个与舒适的气候控制数据中心截然不同的环境。边缘设备可能会暴露在极端温度、湿度、振动甚至海拔高度。这将对设备的选择以及设备的包装或包装方式产生影响。另一个需要考虑的重要方面是监管要求。任何使用无线电频率进行通信的设备都将受到法规的约束,并且可能需要许可证才能运行。一些平台将“开箱即用”地遵守,但其他平台可能需要更多的努力。一旦投入使用,它们就不太可能获得硬件升级,因此在设计周期中必须仔细确定处理能力、内存和存储,以考虑到未来的性能提升。这包括软件升级。与硬件不同,软件更新可以在设备在现场时进行部署。这些无线更新现在非常普遍,以至于任何边缘设备都可能需要设计为支持OTA更新。选择正确的解决方案将涉及对所有这些一般点的仔细评估,以及对应用程序的特定需求的仔细研究。例如设备是否需要处理视频数据,或音频数据,或仅处理温度,或同时监控其他环境方面。其中许多问题适用于部署在前沿的所有技术,但随着处理水平的提高和对输出的期望增加,有必要扩展需求列表。边缘计算的好处现在在技术上可以将AI和ML放入边缘设备和智能节点中,这一事实提供了重要的机会。这意味着不仅处理引擎更接近数据源,而且引擎可以用它收集的数据做更多的事情。这样做有真正的好处。首先,它可以提高生产力,或提高数据使用效率。其次,它简化了网络架构,因为移动的数据更少。第三,它降低了靠近数据中心的重要性。如果数据中心位于城市中,最后一点似乎没什么大不了的,但如果网络边缘位于偏远地区,如农场或水处理厂,则情况会大不相同。不可否认,数据在Internet上移动很快。许多人可能会惊讶地发现,搜索查询可以在结果出现在屏幕上之前跨越全球两次。总的流逝时间可能只有几分之一秒,对我们来说几乎是瞬间的。但对于机器和其他智能设备来说,这些设备由连接的、智能的、通常是自主的传感器和执行器组成互联网,每一秒都感觉像一个小时。这种往返延迟是实时系统的制造商和开发商真正关心的问题。数据往返于数据中心所花费的时间并非微不足道,当然也不是瞬时的。减少这种延迟是边缘计算的一个关键目标。它与更快的网络协同工作,这正是5G发挥作用的地方。但是,随着更多设备上线,推出更快的网络并不能弥补我们预期的累积网络延迟。分析人士预测,到2030年,连接设备的数量可能达到500亿。如果这些设备中的每一个都需要数据中心的带宽,那么网络将永远拥塞。如果它们中的许多都在管道中运行,等待前一阶段的数据到达,则总延迟会很快变得非常明显。边缘计算是缓解网络拥堵的唯一可行解决方案。但是,虽然总体上对边缘计算有一定的需求,但边缘计算的具体收益在很大程度上还是取决于应用,也就是边缘计算规律的应用。这些定律将帮助工程团队决定边缘计算是否适合特定应用。边缘计算的4大定律物理第一定律是物理定律,它是不变的。射频能量以光速传播,就像光纤网络中的光子一样。这是个好消息。坏消息是他们不能再快了。因此,如果往返时间仍然不够快,边缘计算可能是正确的选择。Ping测试提供了一种简单的方法来测量数据包在网络连接的两个端点之间传输所需的时间。在线游戏通常托管在多台服务器上,玩家会ping服务器直到找到延迟最低的服务器,这意味着数据可以尽可能快地传输。这是时间敏感数据的关键,即使是几分之一秒。延迟也不完全取决于传输机制。每端都有编码器和解码器,这些物理层需要将电子转换成任何形式的能量,然后再转换回来。所有这些都需要时间,即使处理器运行在千兆赫兹,时间也是有限的,并且取决于移动的数据量。这样一来,经济规律可能会更加灵活,但随着对处理和存储资源需求的飙升,它也更难预测。利润总是微薄的,但如果在云端处理数据的成本突然上升,就可以证明盈亏的差别。云服务的成本始于购买或租赁服务器、机架或刀片的成本。这取决于CPU内核的数量、所需的RAM或持久存储量以及服务级别。有保证的正常运行时间成本高于无保证的服务水平。网络带宽基本上是免费的,但如果您需要最低限度的带宽,那么您应该为此付费,这在评估成本时需要考虑在内。也就是说,在边缘处理数据不受此可变成本的影响。一旦产生了设备的初始成本,在边缘处理任何数量数据的额外成本几乎为零。数据保护法数据之所以有价值,是因为它意味着或代表某种东西。现在,任何捕获信息的人现在都可能受到捕获该数据所在地区的数据隐私法的约束。这意味着即使是捕获数据的设备的合法所有者也可能不允许跨越地理边界移动数据。例如,这将包括《欧盟数据保护指令》、《通用数据保护条例》和《亚太经济合作隐私框架》。加拿大的《个人信息保护与电子文档法》符合欧盟数据保护法,美国的《安全港安排》符合欧盟数据保护法。边缘处理可以克服这个问题。通过在边缘处理数据,它不需要离开设备。数据隐私在便携式消费设备中越来越重要,手机上的面部识别使用本地人工智能来处理相机图像,因此数据永远不会离开设备。闭路电视和其他安全监控系统也是如此。使用摄像头监控公共场所通常意味着图像由基于云的数据服务器传输和处理,这引发了数据隐私问题。在相机中处理数据既快速又安全,可能会消除或简化对数据隐私措施的需求。墨菲定律最后,我们需要考虑墨菲定律,它指出如果某事可能出错,它就会出错。当然,即使在世界上设计最完善的系统中,问题也总会存在。边缘处理可以消除与通过网络移动数据、将数据存储在云中以及依赖数据中心的处理能力相关的许多可能的故障点。有一些问题要问应用程序是否可以在技术上受益于边缘处理。以下是一些最相关的建议:(1)应用程序在什么处理器架构上运行将软件移植到不同的指令集可能代价高昂并且会引入延迟,因此升级不应该意味着搬出。(2)需要什么I/O这可以是任意数量的有线和/或无线接口。这个问题需要尽早解决,因为如果不仔细考虑,它可能会导致效率低下。(3)运行环境如何?操作环境寒冷或炎热。例如,火星任务就是边缘处理的一个很好的例子。如果是极端的话,运行环境就是一个巨大的变化。(4)硬件是否需要合规或认证答案几乎是肯定的,所以选择预认证平台可以节省时间和金钱。(5)需要多少功率系统功率在单位成本和安装方面是昂贵的,因此了解功率是非常有益的。(6)边缘设备是否受外形因素的限制?这在边缘处理中比在许多其他部署中更重要,因此需要在设计周期的早期考虑。(7)工作时间?这是一个工业应用,可能需要运行很多年,或者生命周期以月来衡量。这些都需要考虑清楚。(8)系统的性能要求是什么?在处理能力方面,例如每秒帧数、内存要求、应用语言等。(9)是否有成本考虑这是一个棘手的问题,因为答案总是“是”,但了解成本限制是什么将有助于选择过程。结论物联网支持边缘处理,但远不止于此。它受到比早期连接设备示例更高的期望的驱动。低级,有共性;设备可能需要低功耗,可能需要低成本,但现在它可能还需要提供更高级别的智能操作,同时又不会使功耗和成本发生冲突。通过选择合适的技术合作伙伴,可以更轻松地选择合适的平台。进入围绕边缘计算开发的生态系统,为人工智能应用选择合适的边缘计算平台。