当前位置: 首页 > 科技观察

人工智能在边缘计算中的优势

时间:2023-03-16 01:14:44 科技观察

在边缘和极端边缘之间,以及无线电接入网络中出现的层次结构——这一切如何发挥作用将很有趣。Synopsys设计软件IP产品营销经理RonLowman最近发布了一份技术简报,对移动计算和人工智能向边缘靠拢的动机以及这些变化如何影响IP选择和系统架构提供了一些见解。无线电接入网络中的层次结构到目前为止,基本原理已经很清楚了。将zettabytes的数据从数十亿或数万亿的边缘设备传输到云端是不可能的——在功率和带宽方面太昂贵了。因此,我们开始将计算移至更靠近边缘的位置。这样,更多的数据在本地处理,只需要更短的跃点。Ron引用了Rutgers/Inria的一项研究,该研究在增强现实(AR)应用程序中使用MicrosoftHoloLens。它的任务是执行二维码识别、场景分割、定位和映射。在每种情况下,HoloLens首先连接到边缘服务器。在一项实验中,人工智能功能被卸载到云服务器上。在第二个实验中,这些操作是在边缘服务器上执行的。第一种情况下的总往返延迟为80-100毫秒或更多。在第二种情况下,只有2-10ms。这并不奇怪,但其含义很重要。云延迟很容易导致AR用户晕车。在其他应用程序中,这可能是一个安全问题。往返延迟对于边缘计算来说不是什么大问题。Ron补充说,5G提供了可以将延迟降低到1毫秒以下的用例。让基于边缘的计算没有理由竞争。对于延迟不敏感的应用程序,使用云很好(只要您不介意传输过程中的成本开销和隐私问题。)对于任何实时应用程序,计算和AI必须靠近应用程序。从云到边缘的架构Ron继续讨论了边缘计算的三种不同架构。他将边缘视为云以外的任何东西,它利用来自多个来源的使用模型和架构。顶部是区域数据中心、更多本地数据中心(可能在工厂或农场)和聚合/网关。每个都有自己的性能和功率配置文件。另一方面,区域数据中心是一个按比例缩小的云,具有相同的功能,但容量和功率要求较低。对于本地服务器,他举了Chick-Fil-A的例子,他们在快餐店有这样的服务器来收集和处理数据,以优化本地厨房运营。不过,快餐店的聚合器/网关非常有限。在这个架构中,有一些更高层次的步骤;这种层次结构得到进一步发展,一直到边缘设备甚至电池供电设备。据了解,在遥控器中,语音激活和触发词识别都是在遥控器内部进行的。而网关可能会做一些更繁重的工作(例如命令识别)。最后,他讨论了对SoC架构的影响,以及进入服务器SoC和AI加速器的IP。我同意他的观点,x86矢量神经网络扩展可能不会产生太大影响。毕竟,英特尔开发Nervana(现在是Habana)是有原因的。更一般地说,人工智能加速器架构正在爆炸式增长。支持垂直应用,从极端边缘到5G基础设施再到云。人工智能正在各种形式的边缘和非边缘计算中找到自己的位置。