什么是潜伏期？在电信系统中，不同应用的时延要求是什么？如何通过部署架构降低网络传输延迟？本文介绍了云网络时延的构成并对其进行了量化分析，分享了不同应用在不同云网络时延需求下对应的部署架构，并简要分析了5G时代对应用部署架构的影响以及云网络测算工具潜伏。在讨论云网络延迟这个看似专业的话题之前，我们先来看几个比较有意思的问题：人类最快的反应速度是多少毫秒？机器人最快的反应速度是多少毫秒？延迟让大家有时间尺度感。1什么是Latency1人体可以感知的延迟等级为什么别人总是抢红包？比对方慢半拍？这些都是人类可以清楚感知到的延迟，而且这些延迟都是毫秒量级的（1秒=1000毫秒）。应激反应恰恰是人对外界刺激的反应，普遍接受的这个延迟限度是100ms。您可以在humanbenchmark网站上以毫秒为单位测试您的响应时间。快的可以达到200ms左右，慢的可以达到三四百毫秒。机械响应人体连续机械响应的极限一般被接受为50ms。游戏玩家“高桥大师”一秒点击按钮16次，是目前无法超越的奇迹，平均每次反应时间为62.5毫秒。中国玩家熟悉的冒险岛游戏主角是高桥名人。2机器可感知延迟级自动驾驶特斯拉的全自动驾驶芯片每秒可完成144万亿次计算，每秒可同时处理2300帧图像。结合本地机载神经网络系统，发现和处理异常的延迟可以在0.5ms左右，比人类识别和响应外部异常的速度快200倍。工业制造响应纯机械，机器的速度更快。ABB的机器人可以在50秒内组装一辆有5000多个零件的汽车，比100年前福特装配线的人工组装速度快1000倍。.整体来说，机器世界的延迟和速度的单位是零点几毫秒，而人类世界的延迟和速度的单位是零点几秒。2不同应用对时延的要求1面向用户的应用时延下表给出了电信系统中不同应用业务的分类以及不同应用对时延和丢包的要求。总结一下：实时竞技游戏的延迟要求是50ms，实时互动游戏的延迟要求是100ms，实时互动语音的延迟要求是100ms，实时互动视频的延迟要求是150ms，和大多数非实时互联网应用的延迟要求一样，300ms以上的标准是极好的标准，如果延迟再增加50ms，就是及格线了。2面向机器应用的时延在5G场景中，有超低时延应用场景的划分。5G的超低时延场景主要面向车联网、物联网和工业互联网。工业自动化控制的延时要求小于10ms。遥控/遥控驾驶时延要求小于10ms。远程超声波检测时延要求小于10ms。延时控制在10ms以内。对于只涉及数据中心的机器之间或者数据中心之间的通信，相对于证券期货行业的高频交易，这种网络延迟甚至要求小于1ms。三个端到端的延迟分量上面提到的不同应用的延迟需求都是端到端的双向延迟。根据应用的不同，端到端可能是客户端和服务器，也可能是客户端和客户端。之间。端到端延迟包括应用处理延迟和网络传输延迟。1网络层传输时延网络层传输时延是指数据包的传输时延，例如数据包从手机发送到服务器接收，再从服务器发送到终端接收。网络传输延迟包括网络接入延迟、固定网络传输延迟和数据中心内部网络延迟。对于用户从固定家庭宽带网络接入云端的应用，整个端到端时延组成如下：用户终端通过WiFi接入家庭路由器时，WiFi接入用户少，负载轻，时延为一般在5-15ms左右，网线一般小于1ms。家用路由器的WAN口连接运营商本地固网，从本地固网到运营商骨干网再到阿里云数据中心，根据距离长短，国内网络延迟1-100ms不等.到达阿里云数据中心后，数据中心内部延迟一般小于2ms。如果用户终端通过4G或者5G接入网络，整个端到端的时延构成会稍微复杂一些。4G终端到基站的空口时延一般在10~20ms左右。5G终端到基站的空口时延降低到1ms。基站到核心网的时延与物理距离密切相关，一般为1~15ms。核心网的Internet出口将连接到本地固网。从本地固定网络到运营商的骨干网络到阿里云数据中心，网络延迟根据距离的不同从1到100毫秒不等。到达阿里云数据中心后，数据中心内部延迟一般小于2ms。2应用层处理延迟应用层延迟包括用户前端应用处理延迟和后端服务器应用处理延迟。应用层处理延迟根据不同的应用差异很大，有的在10ms以内，有的大于100ms。比如抢红包、买商品等简单的交互应用，主要是一些数据包的交互。这种应用层的处理延迟比较小，很多都在10ms以内。对于工业互联网应用，主要是控制消息交互，应用层处理时延会更小，很多在5ms以内。对于游戏应用，终端主要向游戏服务器发送各种指令，另一个方向是终端接收服务数据并展示给用户。这类应用的应用层处理时间比较适中，一般在30ms以内。终端发送指令的延迟很短，往往不到1ms，服务器端的游戏处理逻辑也很快，一般在5ms以内。用户端收到游戏服务器的数据后，通过渲染将画面呈现给用户，应用层的渲染过程会花费一点时间。根据用户终端的处理性能和游戏的爽快程度，处理延迟从5到30ms不等。总体来说，游戏场景中应用层处理延迟在10~30ms。音视频领域的应用层处理延迟普遍比较高，主要涉及周边音视频采集、音视频编解码、降噪渲染等信号处理。业界相对成熟的音视频平台应用层的端到端延迟一般可以控制在100ms以内。4时延视角下的应用部署架构1工业互联网应用部署架构工业互联网应用的实时性要求普遍比较高，很多都需要10ms左右的端到端延迟。减去应用层5ms左右的处理延迟，留给网络层的处理延迟只有5ms。前面提到网络层延迟包括网络接入延迟、固定网络传输延迟和数据中心内部网络延迟：4G网络的网络接入延迟一般在20ms左右，显然不能满足工业互联网的需求。固定网线接入时延一般小于1ms，因此工业互联网场景中很多设备都是通过固定网线连接的。5G时代，入网时延可以做到1ms以内，可以让之前固定的设备无线化。对于数据中心内部处理延迟，一般小型数据中心内部延迟小于1ms，超大型数据中心内部延迟大于1ms，但一般小于2ms。如果网络访问延迟为1ms，则数据中心内部延迟为1ms，固定网络传输延迟为3ms。固定网络1ms的双向传输延迟意味着光纤距离为100km。这就要求在工业互联网场景下，云数据中心要尽量靠近工业园区，基本不能跨城市。在该场景下，用户可以选择的应用部署架构包括阿里云cloudbox本地部署和阿里云混合云本地部署。2实时音视频应用部署架构实时音视频应用的特点是应用层处理时延长，业界先进的音视频平台可以做到100ms以内。实时音视频的端到端延迟最好控制在上面说的150ms以内，200ms以内是可以接受的。此时留给网络层的延迟最多为100ms。实时音视频应用的特点是在两个用户终端之间进行通信。该场景下，两个用户的流量实际上是通过音视频服务器连接起来的，所以实际路径是：用户1<—>音视频服务器<->User2。因此，在音视频场景下，服务器到用户的网络传输延迟应该控制在50ms以内。在音视频场景中，大部分用户使用移动终端，4G网络的入网时延一般在20ms左右。此时留给固网传输延迟的时间在30ms以内。以下是阿里云服务器在不同地区到中国不同省份的固网延迟图。北京BGPEIP到异省延时数据上海BGPEIP到异省延时数据深圳BGPEIP到异省延时数据成都BGPEIP到异省延时数据在音视频场景下，在4G时代，如果要给用户提供良好的用户体验，必须考虑音视频服务器的多区域部署。例如，阿里云北京地区覆盖京津冀经济区，阿里云上海地区覆盖长三角地区，阿里云深圳地区覆盖珠三角经济区，以及利用阿里云成都大区覆盖西部三角洲经济区。在5G场景下，入网时延可以从20ms降低到1ms。此时留给固网的传输延迟可以从30ms改为50ms。这将大大简化应用的部署架构，理论上可以实现音视频服务器从多区域部署到单区域部署。3实时竞技游戏应用部署架构实时竞技游戏的端到端时延控制在50ms以内，100ms以内是可以接受的。如果端到端延迟为100ms，游戏前后端的应用层延迟分配50ms。这时留给网络层的延迟也变成了50ms。在游戏场景中，主要是用户与游戏服务器的交互。此时要求游戏服务器到用户的网络层延迟在50ms以内。考虑到目前4G场景下，入网时延在20ms左右，留给固网传输时延的时间在30ms以内。在这个场景下，上面实时音视频的应用部署架构需求基本一致。因此，在4G场景下，对于实时竞技类游戏，需要多区域部署。考虑使用阿里云北京区域覆盖京津冀经济区、阿里云上海区域覆盖长三角区域、阿里云深圳区域覆盖珠三角经济区域、阿里云成都区域区域覆盖西部三角洲经济区。在5G大规模部署的场景下，可以考虑单区域部署。4实时交互应用部署架构实时竞技类游戏的端到端延迟控制在100ms以内，150ms以内是可以接受的。如果端到端延迟为150ms，则游戏前后端的应用层延迟分配50ms。这时留给网络层的延迟也变成了100ms。在游戏场景中，主要是用户与游戏服务器的交互。此时要求游戏服务器到用户的网络层延迟在100ms以内。100ms的网络层传输延迟是一个很宽松的要求。基本上阿里云一个地域一台服务器就可以做到很好的覆盖。因此，对于实时互动游戏类应用，您可以选择阿里云的地域部署应用。5电子商务应用的部署架构电子商务应用的实时交互比较少，端到端延迟控制在300ms以内即可满足要求。电子商务应用的后端和前端处理逻辑不会消耗太多延迟。如果应用层的处理时延分配100ms，网络层的时延还是200ms。200ms的网络层传输延迟是一个比较宽松的指标。因此，对于电商类应用，仅从时延的角度考虑，选择阿里云的地域部署应用即可。但是电子商务应用一般对可靠性要求比较高。考虑到容灾和高可靠，建议多地域部署，高可靠。5、如何衡量时延时延是影响用户体验的一个关键指标，在一定程度上更能反映网络质量。如何有效地测量延迟也很关键。下面简单介绍几种有效的时延测量工具和产品。1Ping如果要进行点对点延迟测量，最简单和最有用的方法是ICMPPing。通过ICMPPing可以得到点到点的双向延迟数据。如果要进行点对多点的延时测量，这种行业一般称为网络拨号测试。阿里云也有比较成熟的网络拨号测试生产工具。2实时拨号测试阿里云比较好用的网络实时拨号测试工具链接如下：https://zijian.aliyun.com/detect/ping目前拨号测试工具是免费的。通过阿里云实时拨号检测工具，只需输入IP或域名，即可直接发起国探对目标域名或IP的实时检测，全量结果呈现在2分钟内以图形方式呈现。3持续拨号测试如果要持续监控应用的网络质量，如果出现故障，能否向具体负责人发出告警？本场景阿里云对应的工具是云监控的站点监控，地址：https://cloudmonitor.console.aliyun.com/index.htm#/newSite/list/站点监控支持自定义探针和告警规则。目前现场监测探头基本覆盖了中国大陆90%以上的省份和运营商。告警规则的定义也比较灵活，可以通过邮件、电话、短信、钉钉机器人等方式发送告警。6.小结不同应用对端到端时延的要求不同，相应应用的部署架构也不同。端到端延迟包括应用层处理延迟和网络层传输延迟。应用层处理延迟一般不易优化，网络层传输延迟可以通过优化部署架构来降低。网络层传输延迟包括网络接入延迟、固定网络传输延迟和云数据中心网络延迟。通过将应用部署在靠近用户的位置，可以有效降低固网传输时延。5G主要优化网络接入时延。5G普及后，对于简化实时音视频和实时竞技游戏应用的部署架构将更有帮助。测量固定网络的传输延迟，可以使用比较成熟的实时拨号测试和连续拨号测试工具。
