边缘计算和AI如何协同工作?为什么边缘计算非常适合AI?有哪些用例?IT领导者应该知道这些。几十年来,人工智能(AI)一直活跃在数据中心,因为数据中心拥有足够的计算能力来执行处理器所需的认知任务。随着时间的推移,人工智能找到了进入软件的途径,预测算法改变了这些系统支持企业业务的本质,如今人工智能已经转移到网络的边缘。SAS物联网副总裁JasonMann解释说:“当人工智能技术嵌入到物联网的端点、网关和其他设备中时,边缘人工智能就会出现。”红帽首席技术战略师E.G.表示:“换句话说,边缘计算让数据和计算更接近交互点。”边缘AI是一种非常真实(并且正在迅速扩展)的现象,它为从智能手机和智能扬声器到汽车传感器和安全摄像头的一切提供动力。IDC全球基础设施业务专注于边缘战略的研究总监DaveMcCarthy表示,“人工智能是最边缘计算中的常见工作负载。随着IoT实现的成熟,人们越来越有兴趣将AI应用于生成时的实时事件检测。”研究公司德勤预测,今年全球将售出超过7.5亿个边缘人工智能芯片(旨在执行或加速设备上的机器学习),未来四年企业市场的增长率将超过其消费市场以50%的年均复合增长率增长。据咨询公司易观梅森的调查报告显示,未来三年,企业平均将30%的IT预算用于边缘计算。IT领导者认为边缘人工智能如何融入他们自己的企业技术路线图,企业平均将30%的IT预算花在边缘计算上。1.从头开始??很重要如果企业没有实施边缘解决方案,那么它就不会能够直接应用边缘AI。CompTIA技术分析高级总监SethRobinson表示,“对于当今的大多数IT领导者来说,第一步是构建一个解决方案架构,利用edge计算和云计算后端。集成人工智能将是管理边缘解决方案规模的关键,也是构建竞争优势的关键一步。”2.边缘人工智能可以解决基于云的人工智能的局限性。延迟、安全性、成本、带宽和隐私是其中的一部分与机器或深度学习任务相关的问题。EdgeAI(更靠近数据源)可以简化这些任务。例如,每当有人向Siri或Alexa或谷歌提问时,他们的语音录音就会被发送到边缘网络,谷歌、苹果和亚马逊等公司在边缘网络中使用人工智能将语音转换为文本,从而能够处理命令。机器可以生成答案。如果没有边缘计算,等待响应的时间将是司空见惯的。PubNub首席技术官兼联合创始人StephenBlum表示:“边缘网络可在Doherty阈值(小于400毫秒)内提供愉快的用户体验。谷歌、苹果和亚马逊正在大力投资边缘计算以实现它们。人工智能技术可以快速回答问题。要与行业巨头竞争,其他企业需要投资开发边缘人工智能。”3.今天只有部分人工智能工作流发生在边缘Omdia分析师在他们的主题《边缘设备人工智能》“今天的人工智能边缘处理的重点是将人工智能工作流的推理部分转移到设备上,”报告解释道。IDC的麦卡锡解释说,历史数据集通常托管在中央数据中心或云计算基础设施中。训练AI模型本身。然后可以将这些AI模型部署到边缘,对当前数据进行推理。“本质上,你可以在一个环境中训练并在另一个环境中执行,”SAS的曼恩说。“训练机器学习所需的海量数据和计算能力非常适合云计算,并且在新数据上运行推理或运行经过训练的模型是非常适合边缘。”Omdia指出,在新数据上推断或运行经过训练的模型非常适合边缘执行。模型压缩技术可以将大型AI模型压缩成小型硬件,随着时间的推移,可以将一些训练推向边缘。4、边缘实时学习需要时间在接受培训的同时。这一挑战排除了大多数网络的实时学习。”然而,一旦克服了这些挑战,就会为更先进的边缘AI应用打开大门。5.IDC的McCarthy表示,边缘AI需要大量数据,“整个过程只有在有足够的数据构建时才有效统计相关模型,很多企业都没有达到较低的要求。6.从组织良好的数据库开始据CompTIA公司罗宾逊称,“大多数组织尚未建立全面的数据管理实践,也没有这些类型的数据集。此外,现代人工智能比以前更多地基于概率软件程序。出现错误或无意义答案的风险更高,如果训练数据不完整或有任何偏差,这种风险会增加。与其快速安装AI组件并从中获益,企业应该从彻底检查数据开始。在同时,McCarthy表示,行业专家可以用业务逻辑代替基于数据的学习,可以实时用于多个数据流,直到企业积累了足够多的好数据,才能充分利用人工智能。7.云计算到边缘架构应该是灵活的和前瞻性的:“当你定义你的架构时,你需要确保你的设计适合企业规模,”SAS的Mann说。响亮到边缘的架构需要支持模型部署、模型随时间的变化以及在安全环境中的数据传输。Mann建议实施一种与芯片组、操作系统和云提供商无关的架构,以便为长期持续价值提供很大的灵活性。Mann表示,“虽然并非所有问题都适用于边缘AI,但随着高级用例的发展,所有IT基础设施和架构都应设计为适应边缘分析。重要的是要有一个可以支持分析部署的环境实时或批量需要。”
