如今,深度学习技术有两种可能的部署方式:直接在云端和边缘的设备上部署。由于对处理能力和内存消耗的广泛需求,以及AI模型的规模,这些部署大多依赖于云。虽然云部署允许AI从高性能计算系统的功能中受益,但挑战依然存在。需要将数据从设备来回发送到云端进行处理会引发隐私问题,并且由于延迟、带宽和连接性而受到限制。这促使业界关注边缘人工智能的发展,这是我在上一篇文章中提到的一个话题。这些努力围绕引入新方法来训练AI模型,以减少占用空间,以便这些模型可以直接部署在边缘设备上。EdgeAI将通过使智能设备能够实时做出真正自主的决策来解决深度云的缺点,从而促进深度学习。具体来说,这将消除连续向云端发送所有数据和从云端发送所有数据的需要,从而改善隐私、带宽和延迟限制。此外,在边缘部署AI的新兴方法显着提高了速度、功率和内存消耗,从而可以降低成本并限制对环境的影响。一个人的利益不能完全被另一个人取代;因此,最具影响力的现实世界人工智能部署将是那些采用混合方法的部署:在云端和边缘。但是混合方法是什么样的呢?混合部署的免费工作流程可带来更好的结果。第一步是确定必须在边缘实时做出决策的用例,并在云端处理它们以进行长期分析和改进。消除工作流的解决方案,最大限度地提高效率和可扩展性。如果在智能边缘设备上部署深度学习,在需要实时决策的情况下,比如自动驾驶汽车、农业无人机和系统、相机、移动设备等。同时,系统可以上传数据到云端进行存储和进一步处理和分析,可以由更强大的引擎执行。这将确保系统能够实现高功率计算的好处,并允许云中的数据与来自其他系统的数据相结合。有了这些组合数据,可以重新训练模型以持续改进。一旦在云端重新训练,新模型就可以在边缘重新部署。结合云AI和边缘部署的优势比采用单一方法更强大。具体来说,云人工智能的处理能力和高性能可以补充边缘人工智能的效率、速度和自主性。将混合方法应用于自动驾驶汽车中的动作AI是一个特定的用例,它说明了互补方法的好处。在此用例中,AI模型在边缘直接在设备和车辆上运行至关重要,以确保汽车能够安全行驶。如果汽车在数据被发送到云端并进行处理之前无法采取行动,它将无法做出反应并快速做出决定以确保安全。此外,无法保证车辆将保持连续的互联网连接。然而,汽车制造商也受益于捕获实时决策所需数据之外的数据。将收集到的数据发送到云端进行处理是持续改进和重新训练模型的关键。这不仅彻底处理了设备的数据,而且还将深度学习见解与从其他边缘设备收集的数据相结合,以获得更好的输入和理解。基于这种洞察力,可以不断改进算法以发展自动驾驶汽车系统。下一步是什么?边缘AI和云端AI的演变随着越来越多的组织在云端或边缘利用AI的力量,我们将看到更多能够提供现实世界价值的深度学习应用程序。5G的兴起将继续推动深度学习的发展。随着5G变得越来越普遍,它将提高超级计算的可访问性。具体来说,5G将使从边缘到云端的数据共享更加无缝和高效,从而促进更高效的数据处理。但即使有了5G,实时决策仍然需要在边缘完成。云端仍将无法即时满足边缘应用的数据处理需求。因此,在规划部署模型时,边缘人工智能必须继续成为人工智能公司的重点。采用互补方法进行云和边缘部署的企业将取得最大的成功,无论是在模型的短期处理能力方面,还是在有效存储、处理和改进模型的长期能力方面。
