AI芯片分为云端和边缘。云端芯片需要高性能，而边缘芯片由于应用场景众多，对环境和能耗的要求更高。事实上，目前的边缘AI芯片已经不是小众领域，包括谷歌、英伟达、英特尔、高通、华为、寒武纪、地平线近两年都推出了边缘AI芯片，AI芯片大战已经蔓延从云到世界。边缘。据全球科技市场咨询公司ABIResearch数据显示，预计到2025年，边缘AI芯片组市场收入将达到122亿美元，云端AI芯片组市场收入将达到119亿美元。美元。边缘AI芯片组市场将超越云端AI芯片组市场。首席分析师LianJyeSu表示：随着行业的发展，企业越来越需要解决与数据隐私、电源效率、低延迟和强大的设备计算性能相关的问题，边缘AI将成为解决方案。预计在未来五年内，人工智能的训练和推理将在网关或各种边缘设备上进行，甚至下到传感器节点。那么，到底什么是边缘AI，它又是如何解决这些行业的痛点的呢？1.边缘计算和边缘AI近年来，物联网设备连接数呈线性增长趋势。据Gartner预测，到2020年，全球物联网设备数量将超过200亿台。与此同时，设备本身也变得越来越智能。人工智能与物联网在实际应用中的落地与融合，将推动人类社会进入“万物智能互联”时代，由此产生的数据也将呈现井喷式爆发。过去十年，云计算成功缓解了数据不断增长带来的存储和管理问题，但目前网络带宽的增长速度远远落后于数据的增长速度，网络带宽成本的下降速度比CPU、内存等硬件资源的成本下降要慢得多。同时，复杂的网络环境也使得网络时延难以有突破性的改善。因此，传统的云计算无法满足对响应时间和安全性的高要求。以无人驾驶汽车为例，高速行驶的汽车需要毫秒级响应。一旦由于数据传输、网络等问题导致系统响应时间增加，将造成严重后果。此外，云计算还面临着带宽不足的问题。如果边缘设备产生的大量数据全部传输到云计算中心，将对网络带宽造成很大压力。例如，飞机波音787每秒产生超过5GB的数据，但飞机与卫星之间的带宽不足以支持数据的实时传输。总之，单纯依靠云计算的集中式计算处理方式，不足以支撑基于物联网感知的应用程序运行和海量数据处理。在这种应用背景下，边缘计算应运而生。结合现有的云计算集中处理模型，可以有效解决大数据在云中心和网络边缘的处理问题。边缘计算是对云计算的补充和优化。如果说云计算是在“云”中集中处理大数据，那么边缘计算可以理解为在边缘侧、靠近终端（如手机、智能语音交互设备等）的大数据处理。在很多情况下，边缘计算和云计算是共生的。有一个生动的解释，把云计算和边缘计算比作章鱼的器官，似乎更容易理解。作为自然界中最聪明的无脊椎动物，章鱼具有“概念思维”的能力，这离不开两套强大的记忆系统。一个是大脑记忆系统，大脑有5亿个神经元，另一个是八爪上的吸盘。也就是说，章鱼的八条腿可以思考和解决问题。云计算就像章鱼的大脑，边缘计算就像章鱼的小爪子。爪子是一个小型计算机室，靠近特定对象。边缘计算更接近设备，更接近用户。具体来说，边缘计算有几个明显的优势：带宽：边缘设备处理部分产生的临时数据，不再需要将所有数据上传到云端，只需要传输有价值的数据，大大降低了网络带宽，降低了对计算的需求和存储资源；延迟：靠近数据源的数据处理可以大大减少系统延迟，提高服务响应时间；经济性：如果一个应用程序使用了云端，即使它可以从技术上解决带宽和延迟问题，但在边缘进行计算可能更划算；可靠性：如果一个应用使用了云端，即使可以从技术上解决带宽和延迟问题，但与云端的网络连接并不总是可靠的，App可能需要一直运行。在这种情况下，使用边缘计算。比如人脸识别门锁，如果网络连接丢失，你希望门锁还能正常工作；隐私：如果一个应用程序使用了云，即使它可以在技术上解决带宽、延迟、可靠性和经济性等问题，但可能仍然有很多应用程序出于隐私考虑需要本地处理。边缘计算为关键隐私数据的存储和使用提供基础设施，提高数据安全性。边缘计算因其突出的优势，可以满足未来万物互联的需求。2016年以来迅速升温，引起了全球的密切关注。当然，边缘计算是一个不断迭代更新的概念。不同技术的融合导致了边缘计算核心的不断创新。例如，人工智能和神经网络的应用也在赋能“边缘人工智能”的实现。得益于云服务器广泛的数据计算能力，人工智能和机器学习领域取得了长足的进步，开发出更全面的人工神经网络来解决具有挑战性的任务。随着机器学习、神经网络训练等网络架构和工具不断向嵌入式系统适配和兼容，越来越多的人工智能应用也可以直接运行在边缘设备上，因此“边缘人工智能”成为当今讨论的热点。.边缘人工智能是指在硬件设备上本地处理的人工智能算法，无需网络连接即可处理数据。这意味着无需在云中流式传输或存储数据即可完成数据创建等操作。为了实现这些目标，边缘计算可以在云端通过深度学习生成数据，并在数据的源头——即设备本身（边缘）进行模型推理和预测。目前国际上还没有建立边缘人工智能的标准架构和统一算法，但各大厂商已经开始在相关领域进行探索。谷歌、亚马逊、微软等传统云服务商纷纷推出边缘人工智能服务平台，通过在终端设备本地运行预训练模型进行机器学习推理，将智能服务推向边缘。此外，市面上也出现了多款边缘人工智能芯片，比如文章开头提到的地平线旭日3、谷歌边缘TPU、英特尔NervanaNNP、华为升腾910和升腾310等2。边缘计算与5G边缘计算与5G可以说是相互角逐的关系。国际标准化组织3GPP为5G定义了三种场景。其中，eMBB是指3D/超高清视频等大流量移动宽带业务，mMTC是指大规模物联网业务，URLLC是指需要低时延、高可靠连接的业务，如如无人驾驶和工业自动化。5G通信网络更加去中心化，需要在网络边缘部署小型或便携式数据中心，对终端请求进行本地化处理，以满足URLLC和mMTC的超低时延要求。因此，边缘计算是5G的核心技术之一。边缘计算正好可以解决5G三大场景面临的问题。首先，边缘计算设备将为新的和现有的边缘设备提供连接和保护；其次，虽然5G将为基于云的应用程序提供更好的连接性和更低的延迟，但在处理和存储数据的成本方面仍然存在挑战。混合边缘计算/5G解决方案将降低这些成本；最后，边缘计算将允许更多的应用程序在边缘运行，减少由数据传输速度和带宽限制引起的延迟，并实现本地数据处理。分析，将一些工作卸载到云端。另一方面，5G与边缘计算在一定程度上具有互补性。一方面，得益于5G本身的发展，将直接推动边缘计算的发展；另一方面，由于5G可以推动物联网，也会间接推动边缘计算的发展。3、边缘AI的应用场景边缘AI以其流量小、延迟低、隐私性强等特点，在各行业有着广阔的应用前景。智能手机这可能是我们最熟悉的边缘人工智能设备。Siri和GoogleAssistant是智能手机边缘AI的最佳示例，因为该技术驱动了它们的语音UI。手机上的人工智能使数据处理能够发生在设备（边缘）端，这意味着设备数据不需要传送到云端。这有助于保护隐私并减少流量。智能家居随着物联网的普及，越来越多的智能应用将被引入到家庭生活中，比如智能灯控、智能电视、智能空调等，这些应用需要部署大量的传感器和家中的控制器。为了保护家庭数据隐私，数据处理必须依赖边缘计算，让大部分计算资源都局限于家庭网关，敏感数据无法外流。通过边缘人工智能优化室内定位和家庭入侵检测，比云计算具有更高的准确性和更低的延迟。AmazonEcho和GoogleHome等智能音箱被广泛使用，它们接收用户命令并通过与第三方（服务或家电）交互做出响应。但智能音箱依赖云端进行语音识别、语言语义理解和处理，会造成家庭数据隐私泄露，边缘人工智能的应用可以有效解决这些问题。家庭娱乐也将受益于边缘人工智能。无需将用户偏好上传到云端。系统可自行推荐个性化服务，让用户拥有更好的娱乐体验。无人机无人机可以飞到人迹罕至的危险区域，以独特的方式探索和捕捉鸟瞰图像。无人机的应用范围正在扩大，一方面包括在农业方面的应用，另一方面包括在采矿方面的应用。然而，这些设备必须能够“打电话回家”，以响应它们收集的数据。边缘计算使无人机能够检查数据并实时响应。例如，百度智能云、麦飞科技在无人机上部署了BIE-AI-Board（内置检测模型和运行模型），利用高光谱和可见光相机采集农作物信息数据，并上传到BIE-AI-Board，BIE-AI-Board加载检测模型判断农作物病虫害的位置和程度，并调用作业模型根据检测结果控制植保机进行植保作业。现在这个项目已经在中国很多农田实施。智能农业农业也将受益于边缘人工智能。除了无人机的应用，还有利用基于边缘计算的农业物联网进行精准农业的应用。例如，总部位于澳大利亚的农业技术公司TheYield使用传感器、数据和人工智能帮助农民就天气、土壤和植物状况做出明智的决定。公共安全人脸识别系统是监控摄像头的发展方向，可以通过学习人脸来识别个体人。2019年11月，WDS公司发布AI摄像模组Eeye，通过边缘AI实时分析面部特征。对于边缘计算的使用，即加强摄像头终端的计算和处理性能，其搭载的人脸识别功能可以不再依赖云端服务器，避免耗时上传图片，节省大量带宽资源。并且直接在本地设备完成人脸识别，识别过程缩短到1.5秒以内。实时视频分析也是边缘AI最重要的应用场景之一。此前，视频分析一般在云端进行，面临流量消耗大、延迟大等问题。随着边缘计算的发展，部分视频分析工作可以转移到边缘节点。最后，视频采集设备负责视频采集、压缩和图像/视频预处理。在边缘层，多个分布式边缘节点相互协作。在云端，由于边缘节点局部知识有限，分布式模型训练可能无法得到很好的训练，当边缘无法提供服务时，云端利用全局知识进行进一步处理，帮助边缘节点更新训练模型。Tractica的一份报告估计，到2025年，AI边缘设备的出货量将从2018年的1.614亿台增加到每年26亿台。就单位数量而言，排名靠前的AI边缘设备将包括手机、智能音箱、PC/平板电脑、头显安装显示器、汽车传感器、无人机、消费者和企业机器人以及安全摄像头。可穿戴健康传感器、建筑物或设施传感器中也会有更多的人工智能。车联网车联网通过车辆互联提高安全性和效率，减少交通事故并避免拥堵。早期，蜂窝网络、边缘计算、AI都是作为独立的技术服务于车联网。边缘计算可以为车联网提供高速数据传输、低延迟等服务，使自动驾驶成为可能。人工智能广泛应用于智能交通的各个领域。两者的结合将有助于进一步优化车联网性能，通过边缘人工智能实现车辆精准定位、目标跟踪、智能感知和决策。HealthcareHealthcare医疗保健已进入数据时代。健康意识的普及使得医疗设备和终端越来越多样化，边缘人工智能在智慧医疗领域将有多个应用场景。首先是院前急救。当急诊患者到达医院或在两家医院之间转诊时，目前的急救医疗服务大多部署在云端，容易受到移动环境和极端天气的影响和制约。边缘人工智能可以在救护车和医院之间建立双向实时通信通道，实现实时自然语言和图像处理，提高时效性和效率。二是智能穿戴设备。目前的智能穿戴设备受计算能力的影响，只能起到数据采集的作用。智能穿戴领域的边缘人工智能研究正在进行中。例如，瓦伦西亚巴黎政治学院的研究员JamieAndresLincoln在可穿戴设备上部署边缘AI来监测人类情绪。未来，更多轻量级的智能算法将在终端实现，对健康数据进行实时监测、分析和预测，帮助人类更好地了解自己的身体状况。随着城市规模不断扩大，智慧城市需要地理分布的数据，需要边缘人工智能模型提供对时延敏感设备的监控和智能控制。通过边缘计算支撑智慧城市大规模基础设施的计算和服务，实现终端设备的低时延应用，将对时延要求高的任务部署到边缘节点上执行。利用人工智能对城市基础设施进行统筹调度，应用于公共安全、医疗卫生、城管、交通、智慧社区等领域，实现全城资源的最佳利用。例如，在交通拥堵方面，新加坡通过互联交通解决方案解决了巨大的交通挑战。其智能交通系统(ITS)开创了电子道路收费的先河，道路通行费随着交通流量的激增而增加。ITS还允许通过启用GPS的出租车提供实时交通信息，并整合公共交通结构，同时还可以让公交车更准时。城市环境卫生也可以通过智能技术得到改善，例如使用联网垃圾桶或支持物联网的车队管理系统来收集和处理垃圾，或者将传感器技术应用于智能垃圾容器（当垃圾到达目的地时自动感应）容器顶部，从而及时通知市环卫部门收集垃圾）。在工业制造领域，人工智能和边缘应用有望在智能工厂的发展中发挥越来越重要的作用。在工业4.0模式的推动下，下一代智能工厂将先进的机器人和机器学习技术应用于软件服务和工业物联网，以提高生产能力并最大限度地提高生产效率。边缘计算和人工智能使用本地传感器来控制和管理输出，可以显着提高效率并减少错误。边缘系统可以在几毫秒内响应输入以进行调整以解决问题或关闭生产线以防止出现严重问题。4、边缘AI面临的挑战近两年，边缘智能产业生态逐步搭建起来。然而，在大好局面的背后，边缘智能仍然面临着各种各样的问题。第一，由于云计算服务下沉，部分流量直接通过本地边缘智能平台。在传统的核心网中，计算、控制、安全等都是在核心网内部完成的。如何对边缘智能平台的流量进行计费和控制需要研究；同时，实际网络架构中存在多种不同类型的边缘智能。部署规划，如部署在无线接入云、边缘云、汇聚云，不同架构面临的问题也略有不同。其次，边缘智能服务的对象和场景较为多样。如何让边缘智能平台适配多种第三方应用，也是目前面临的问题。第三，由于业务碎片化，边缘智能可能部署在单一场景，也可能部署在两三个场景。不仅需要明确定义整个部署能力的特点，还需要考虑如何进行敏捷、智能运维。第四，如何更好地引入人工智能，发挥边缘计算的整体优势，还有待研究。第五，协调如何进一步降低边缘智能平台内部基于OpenStack的平台管理子系统的权重，并考虑在边缘智能平台中快速引入一些微服务架构，以降低管理开销。此外，边缘智能的业务运营模式、部署位置、自愈和自动伸缩等问题也需要进一步明确和解决。目前，虽然边缘智能还处于发展初期，但作为下一波计算浪潮，从通信行业、互联网行业到工业领域，人们普遍对边缘智能将发挥的重要作用寄予厚望。边缘智能作为赋能5G三大典型应用场景的计算范式，将IT服务环境和云计算能力延伸至移动网络边缘，将协同云智能助力各行各业的数字化转型。随着5G的普及，相信全球边缘AI服务的成本会下降，需求也会很快上升。
