面向千万级车联网的MQTT消息平台架构设计以智能网联为核心的车联网系统。新一代车联网系统对底层消息采集、传输和处理的平台架构提出了更高的要求。在本系列专题的上一篇《车联网场景中的 MQTT 协议》中,我们已经提到MQTT协议是目前最适合构建车联网场景数据平台的通信协议。基于此,在本文中,我们将继续探讨车联网场景下MQTT消息的采集与传递,以及如何构建一个千万级别的车联网MQTT消息平台,以提供平台架构设计供开展车联网业务的企业用户参考。车联网基础:信息采集与传递车联网传输协议演进众所周知,车联网(vehicle-to-everything,V2X)是指车对万物,车对车-网络、车对车、车对路、车对人,实现车与公网通信的动态移动通信系统,是为满足高效、安全、与车辆相关的各个环节的管理等要素。其中运行的通信协议已经成为车联网系统建设的关键和核心。在车联网的发展过程中,主要有两种主流通信技术,对车联网的整体发展起到了推动作用:DSRC(DeDICatedShortRangeCommunication,专用短程通信):ASTM于1992年由美国测试和材料协会为ETC建立。业务场景开发,经过多年的完善迭代,演化为IEEE(802.1X)车联网通信技术标准。长期以来,DSRC技术一直是国际主流汽车生产和消费市场采用的主流车联网通信协议。**C-V2X(CellularVehicletoEverything,蜂窝车联网通信):**C-V2X依托现有蜂窝基站,除支持PC5、RSU与车辆直接通信外,还可以通过4/5G信道(使用Uu接口)接入V2X平台,实现车路协同通信。与DSRC相比,C-V2X在技术上更胜一筹。它增强了通信的安全性和保密性,支持高网络容量,可以支持高带宽和大数据量的需求。DSRC与C-V2X技术竞争激烈,都希望成为车联网的主流通信标准。目前我国拥有最完备的5G通信网络基础设施,因此更倾向于采用C-V2X(LTE-V、5G-V2X)通信技术,通过V2X车路系统+单车的系统化建设智能系统,实现基于新一代车联网架构的自动驾驶系统。信息化平台建设对于车联网的意义在车联网建设飞速发展的今天,各主机厂已经形成共识:车联网建设的目的不是为了联网而联网,也不是为了信息而联网。车载娱乐。网络是为了数据。有了车联网,就有了数据。有了数据,再辅以完善的数据治理和应用体系,便应有尽有。并且该业务的目标数据并不局限于车端的相关数据。在V2X架构中,需要解决车与车(V2V)、车与路(V2R)、车与互联网(V2I)、车与云(V2C)、车与人(V2H)的互联,所以实现路、云、网、人全方位的数据采集与分析。基于5GC-V2X协议和通信方式,为整个系统的建设提供基础能力保障。从传统OTA应用到智能座舱、高精度地图适配、厘米级定位、远距离车机连接、移动端消息采集、车路云图、车路协同,物联网车辆业务对于消息平台至关重要。对数据和数据处理系统的需求从原来的车云扩展到人-车-路-网-云的整体架构,因此对整个消息平台的建设提出了更高的要求。如何构建海量连接、高并发吞吐、低时延的消息通信和传输系统架构,保证整个系统的无处不在、便捷、高可用、可靠、安全、高并发成为了一个基于的问题关键以构建自动驾驶和车路协同场景下的新一代车联网系统。千万级车联网消息平台架构设计下面我们以EMQ的车联网消息平台和数据处理整体解决方案为例,介绍如何搭建千万级车联网消息平台。业务挑战(1)车机、路测单元、移动终端系统安全接入车端需要涵盖车机数据上报、POI分发、文件推送、配置分发、消息推送、运营关怀等新的车联网服务,导致海量的消息主题需要更安全、稳定的接入和传输,才能实现消息的订阅和发布。路端需要实现路边RSU的安全接入、信息采集传输、地图数据传输等。(2)大并发消息传输的实时性和可靠性高精度地图、厘米级等应用场景定位、车路协同需要解决海量车路图消息的毫秒级低时延、高可靠传输能力保障。消息处理平台具备高性能、低延迟、高可靠支撑千万级连接和百万级并发业务场景的能力。(3)以自动驾驶为核心的车联网系统集成了丰富的应用场景,需要通过消息平台对接基于人、路、图、云的各种应用。通过消息平台将车端数据与高精地图、厘米级定位、车路协同、手机连接等应用场景对接,通过消息平台保障应用的消费和供给,提供高-性能、低延迟和高可靠性的数据架构。(4)海量数据存储、处理和分发人、车、路、云、地图、网络等海量物联网数据采集完成后,需要对这些大规模实时数据进行访问、存储、处理和分发。时间数据流。在链路中进行全生命周期管理,为应用提供动态持续数据流的数据库支持,支持应用深度利用车联网数据服务消费者和进行商业决策。整体解决方案在方案中,我们主要使用EMQ旗下的云原生分布式物联网接入平台EMQX,实现车联网系统中车端、人、路端的数据连接、移动和处理。EMQX集成的分布式MQTT消息服务和强大的物联网规则引擎,可以为高可靠、高性能的物联网实时数据移动、处理和集成提供基础能力基础,帮助企业快速构建业务关键型物联网平台和应用。(1)车载端的消息处理,EMQX使用MQTT协议接入车联网系统。车机端通过负载均衡接入EMQX分布式集群。EMQX的横向扩展能力,可实现千万级车机连接、百万级并发响应的数据通信能力。通过规则引擎,一站式实现海量消息桥接消息队列、持久化仓储、消息离线存储等能力,同时提供丰富的API原子能力北向集成。在安全方面,EMQX不仅支持TLS/DTLS或国密GMSSL安全协议,确保系统的可靠性和稳定性;还提供心跳监控、遗嘱消息、QoS等级等多重保障机制,通过离线消息存储实现复杂网络环境下的实时监控,安全可靠的车机信息通讯。(2)人路终端消息处理EMQX为人路终端提供手机APP、RSU等终端的消息采集处理平台。基于5G网络切片能力,可通过个人终端和路边单元就近接入,实现超低时延的交通信息服务。将人终端和路边设施感知的路况信息通过MQTT等协议推送至云控平台,云控平台集成V2X算法,实现道路协同感知、安全提醒、和远程协同控制。安全方面,支持国际标准TLS/DTLS加密或国密算法GMSSL加密,通过扩展基于PKI/CA证书的认证体系,保障人车路信息系统协同安全通信。千万级消息接入框架模型针对下一代车联网场景,EMQ的千万级连接、百万级并发的消息接入和数据处理整体平台参考架构如下:业务场景:车联网车联网系统中的手机APP终端、路边RSU等设备通过MQTT接入,实现千万级以上终端的并发访问能力。**系统架构:**终端设备通过MQTT、HTTP等协议接入,通过负载均衡组件接入分布式消息平台EMQX。通过分布式多集群部署,满足千万级并发连接需求,根据百万级消息吞吐能力,规则引擎接入Kafka集群实现数据转发。车联网服务平台、高精地图服务、V2X云控服务、位置服务等车联网相关应用,订阅Kafka数据即可直接消费。同时,EMQ提供三种南向接口服务:REST、MQTT、MQ消息队列。车辆控制(远程控制)消息的双向通信。通过以上参考框架,EMQ可以通过EMQX云原生分布式物联网接入平台实现车联网场景下千万级连接、百万并发吞吐量的业务需求。千万级消息接入测试测试环境及目的某车企计划在车联网场景下基于测试环境验证EMQX集群的以下能力,为后续业务增长做好相应的技术架构和能力支撑准备:它可以支持1000万并发100,000到150,000条QoS0消息,负载为100字节/秒,通过规则引擎桥接到Kafka;1000万并发连接订阅消费OTA广播话题;300万并发连接不会造成集群雪崩,并测试连接耗时。另外,在完成以上所有测试后,继续探索在当前千万并发配置下,可以支持的向Kafka发送消息和桥接转发的最高吞吐量(根据客户端资源使用情况增加客户端消息发送频率)EMQX集群),测试满足QoS2的最高消息吞吐量,1000万连接下平均响应时间在50毫秒以内。备考客户端通过TLS加密连接到负载均衡ELB,然后在HAProxy中对客户端进行TLS终结,最后通过TCP连接到EMQX集群。通过终止HAProxy上的TLS可以提高EMQX集群的支持能力。在这种部署模式下,EMQX的处理能力与客户端直接通过MQTTTCP连接的处理能力是完全一样的。另一方面,与MQTTTCP连接相比,客户端通过TLS连接也需要消耗更多的资源。但是这次测试的规模是千万级,需要的测试机台数很大。为了在不影响EMQX集群测试目标的情况下减少所需的测试资源,本次测试将直接使用TCP连接。测试场景测试结果以下是本次测试的结果:总结如上图结果所示,在目前的部署架构下,车企可以满足千万级并发连接+20万条消息桥接Kafka,消息广播的需求以及300万个瞬时并发连接的身份验证要求。在探索性测试中,在1000万连接下测试了最大120万消息TPS(QoS0,payload1kB)。测试持续了10个小时。EMQX集群稳定,CPU闲置低至20%,内存占用稳定。由上可见,EMQX在支持车联网场景下的千万级连接方面表现突出,架构稳定可靠。压力测试工具介绍及使用由于需要测试机台数量多,管理复杂,本次测试使用XMeter性能测试平台和EMQ商业版测试软件的JMeter-MQTT插件进行测试。XMeter是一个基于开源测试工具JMeter扩展的性能测试平台。针对物联网接入规模大、弹性扩展需求、接入协议多种、混合场景等特点,XMeter对JMeter进行了改造,支持大规模、高并发的性能测试,比如实现千万级别的MQTT并发连接和消息吞吐量测试的级别。除了测试MQTT协议外,还可以支持HTTP/HTTPS等主流应用的测试。JMeter-MQTT插件是XMeter实现的开源MQTT性能测试插件。已经在很多项目中使用,是目前JMeter社区最流行的MQTT插件。写在本文的最后,我们介绍了基于云原生分布式物联网接入平台EMQX的千万级车用MQTT消息平台的架构设计,并在以下场景下验证了该架构的性能:数千万并发连接。为车联网系统消息数据平台的构建提供了可能的设计参考。EMQ作为全球领先的物联网数据基础设施软件提供商,致力于打造高性能、低延迟、高可用、高可靠的产品,为物联网提供消息采集、移动、处理、分析的整体解决方案。新一代车联网系统解决方案,为汽车制造商、T1供应商、后市场服务商、出行服务公司、政府管理机构等自动驾驶和智能网联汽车业务提供基础设施服务保障,实现人、车、路的智能连接和云。
