当前位置: 首页 > 科技观察

6.18运营大屏建设筹备——跨时区多源架构实践之路

时间:2023-03-13 22:48:38 科技观察

背景首次整体亮相并参与集团大促筹备的京东国际,在本地e-业务方面,有“泰国、印尼”等东南亚商贸公司,在欧洲、中国也开设了新业务“MCA、B2B”,以及销售领域所在的“三方业务、主站销售”在第三方平台和主站平台。促销期间,如何采集各条线的“流量、用户、销量”等数据信息,为商家提供实时的运营策略指导,需要采集各条线的系统和运营数据。管理和规划设计。那么我们会遇到哪些问题和挑战呢?下面我们将从“国际化业务特点、数据分布及人员情况、数据建设现状、技术架构”等维度进行分析。国际业务的特点通过之前大促启动会上的介绍,相信大家对国际业务的特点有了一定的了解。“除了这些特点之外,各地还有不同的法律法规,这决定了国际业务数据建设将面临诸多挑战。数据分布和人员情况参与筹备本次大促的6条业务线时间部署在不同机房,数据分布和数据计算资源也分开。香港(即将搬迁到新加坡),MCA部署在荷兰阿姆斯特丹,B2B&主站销售&第三方业务部署在国内机房。”在数据处理、数据分析、数据服务等方面,由于历史原因(各站点原有的闭环研发),相关人员的支持也不尽相同。数据相关知识后参与支撑工作。从数据计算资源、存储、服务提供、人员支持等方面可以看出,国际化数据平台的建设需要专业的数据团队来支撑。同时,建设国际化的业务数据中心,规范数据指标的口径和计算频率,提供服务的方式。数据现状分析及团队建设为搭建国际化业务数据推广大屏,满足各类业务需求,我们临时成立“618大屏大推广项目组”,全面梳理现有6个指标业务线经过梳理,最终确定了“流量、用户、交易”3个大屏指标场景,共8个通用指标。在团队方面,为快速完善指标建设,组织组建了“虚拟数据研发”团队,由最懂业务、懂数据的产品、数据、研发人员组成。数据大屏系统架构及思考目标:整合国际业务各条线的数据,提供实时数据,统一数据单元和粒度数据,6月1日至6月18日“数据”显示8个通用指标的趋势,登陆大屏看板进行国际618推广。数据来源:梳理了各行的索引构建,发现在数据处理、存储、展示等方面差异较大,涉及到“Clickhouse、Hadoop、Mysql、Elasticsearch”等,其中有一些是T数据有效性+1,有的是秒级,有的是分钟级,有的是10分钟级。货币单位有泰铢、印尼盾、美元、人民币等。跨地域整合:目前数据分布和业务至少跨越4个时区,比国内晚1-7小时。这种情况下数据聚合有两种解决方案:每条线路根据接口规范通过Http数据服务,通过国内数据应用服务提供数据聚合。这样做的好处是对原有业务线的数据处理影响较小,整体工作量较低;设计通用数据表,按领域划分,如“商品、业务、订单、营销”等构建标准化数据表,经各行数据分析师数据处理后,调用通用数据上报界面。能力复用:大屏需要考虑各个终端的适配,大屏数据展示的风格和布局,数据加载的效率和稳定性。所以这次大屏看板的前端,我们和数据与智能部的零售中台技术和数据中心-产品同事,也就是负责大屏的设计研发团队在京东集团运营指挥室,沟通交流,丰富大屏看板资源和基于京东V平台的数据接入和编排能力,快速赋能京东国际大屏建设。虚拟数据演示架构方案:1、短期方案:每个站点集合依赖一个大数据平台进行数据计算、存储、分析和数据推送。使用的技术栈有“Flink、Spark、JMQ、Mysql、Clickhouse”等。构建国际业务数据聚合层,使用内网专线通过Http进行数据交互,通过聚合层聚合数据、货币单位、样式,缓存实时数据以提升性能。通过聚合层服务,为JDV大屏看板提供接口服务,JDV可以通过浏览器技术在本地缓存和加速数据。2、长期规划:建设国际统一的市场中心,将国际业务线涉及的“用户、交易、营销、浏览、商品、库存”等数据路由到全球数据中心。建立国际标准化的数据构建规范,规范数据字段的命名规范、数据存储大小、存储时间、分析时间、使用频率等。同时,新业务必须有完整的数据嵌入表。搭建国际化数据平台,整合各场景数据,同时协同外部数据,实现国际化数据洞察,为业务提供逆向运营指导和体验提升。总结国际业务中多源数据应用的实践过程,我们可以看到,通过这套架构和思路,不仅支持可视化拖拽式构建大屏看板系统,而??且具有灵活、深度组件共建和逻辑扩展能力。可以满足不同业务的数据需求。内置权限、组件、数据交互方式,减少重复开发,显着提升性能。对于国际业务数据的建设,我们还有很多能力需要不断拓展。最终,我们将构建一个国际化的通用数据平台,以业务和客户需求为导向,持续培育平台的易用性和可扩展性。