当前位置: 首页 > Linux

openGemini正式加入openEulerSIG-DB,进行全方位的技术创新

时间:2023-04-06 06:38:58 Linux

2023年2月,openGemini正式申请加入openEulerDBSIG,已完成openEuler各项兼容性测试,计划加入openEuler23.03版本。openGemini可以与openEuler社区在物联网、嵌入式、边缘计算、运维监控(AIOps)等领域进行合作,充分利用自身的技术竞争优势,提升openEuler社区的影响力和竞争力,不断探索新的机遇和技术创新点,进一步提升openGemini的技术实力和社区品牌知名度。项目地址https://github.com/openGeminihttps://gitee.com/src-openeuler/openGemini项目官网http://opengemini.orgopenGemini简介openGemini由华为云数据库创新实验室设计开发,开放全球采购云原生分布式时间序列数据库。主要面向物联网、运维监控等场景,提供海量时序数据库处理分析的开源解决方案,进一步降低企业运维成本,提升产品质量和生产效率.openGemini的发展历程如图所示。openGemini经历了最初由InfluxDB转型的技术探索,到云服务商业化、自研内核增强、开源开发。经受住了华为云内外100多个用户的不同业务。场景的打磨与检验,现已发布所有核心源代码,全面拥抱开源,打造共享、共治、共建的开发社区,打造全球技术生态和影响力。openGemini的架构openGemini采用MPP大规模并行处理分层架构,由ts-sql、ts-store、ts-meta组成。ts-sql:统一处理客户端请求数据,按照时间线一致的Hash方式分散存储在不同的ts-store中。查询语句执行过程中,从ts-store获取数据并汇总,返回给客户端ts-meta:统一元数据管理数据库集群元数据和数据库元数据管理,如节点信息,数据保留时间,数据分区信息、表信息等。存储和查询时,根据指定的时间范围和时间线ID查询数据,根据过滤条件返回目标数据。、企业级特性、扩展性、功能、应用开发等六个方面已经完全具备了可在生产环境中使用的完整能力。●高性能openGemini针对物联网、运维监控等领域的海量数据管理和分析需求,对计算引擎和存储引擎进行了大量优化设计,取得了显着的效果。支持亿级指标管理每秒并发写入和查询数万条指标数据毫秒级响应30万指标,259亿指标测试数据场景下,TSBS(https://github.com/timescale/tsbs)性能测试工具。与开源单机版InfluxDBv1.7相比,openGemini单机版写入性能提升5倍,简单查询提升2-5倍,复杂查询响应时间提升60多倍。●高安全性openGemini支持数据传输加密和用户密码验证,支持用户弱密码验证和审计日志。另外,openGemini集群各组件之间的通信可以配置HTTPS双向认证(MutualTLS),确保每条链路都是可信的。●企业级特性openGemini具有丰富的企业级特性,部分关键特性如下:l高效的数据压缩采用列式数据存储,不同的数据类型对应不同的数据压缩算法,可支持长期数据存储PB级指标数据。存储成本是传统关系型数据库的1/20,NoSQL的1/10l支持数据保留策略,过期自动删除数据l支持write-aheadlog(WAL),设备断电缓存数据不会丢失offl数据量大时的流计算数据量大时,传统的降采样工作方式对磁盘I/O的消耗太大,I/O放大也很严重。通过流式计算,可以在写入数据的同时实现数据降采样。这种方式具有高性能和低网络开销的优点l数据的分层存储结合了时序数据的特点,数据存储在hot、warm、cold多个层次,进一步提高查询性能l内核运行状态可观察提供开源监控工具ts-monitor,可采集内核和服务器260多个关键监控指标,更好的观察系统运行状态,快速排查、定位和解决问题l多级向下-采样可以对不同时间范围内的历史数据进行不同的降采样方法,保留历史数据的特征,而原地删除其他历史数据,节省50%的存储空间和90%的计算资源l向量化充分利用架构的并行处理优势,每次迭代分批返回数据,大数据量下查询性能更优l异常检测与预测内置基于AI的时序异常检测与预测分析框架,具有流批融合、严重度分类等多种能力指标数据并发检测,包括13种异常检测器,可覆盖异常值、值变化、阈值、连续上升和下降等常见时间序列异常场景可扩展性openGemini集群由ts-sql、ts-store、ts-Meta组成,支持单个组件独立水平扩展,可支持100+节点的集群规模。●FunctionopenGemini提供了丰富的聚合算子(如COUNT、SUM、MAX等)、统计分析算子(如PERCENTILE分位数、DIFFERENCE等)、算术分析算子(如ABS、LN等)。,FullJoin,approximation有60+统计算子和字符串算子(比如SUBSTR,STR等)。此外,还支持秒、毫秒、纳秒等多种时间精度,支持TAG(分组查询)和嵌套查询。●应用开发(技术生态)如图所示,在时序大数据处理方面,openGemini在数据接入、数据存储、数据可视化、数据分析、数据迁移等方面初步完成了关键能力建设和技术生态对接和其他链接。在云原生方面,openGemini已经支持K8s和KubeEdge的容器化部署,并积极与KubeEdge社区共同创新。在底层操作系统方面,openGemini支持主流的Linux系统和x86、arm64等架构。在应用开发方面,支持C/C++、Java、JavaScript、Ruby、GO、Python、PHP等主流开发语言。总结openGemini具有优秀的读写性能和高效的数据分析能力,支持单机和集群,可以多种形式部署,可以部署在边缘、云端和物理机上,支持主流开发语言,二进制运行,和没有第三方组件依赖。系统运行指标监控260+项,运维简单。一树难成林,百川汇江海。openGemini与openEuler将携手深化物联网、AIOps、嵌入式、边缘计算等领域的技术解决方案融合,开展线上开源协同、线下社区互动等方面的合作,力求为行业提供一流的服务全球开发者解决方案计划。如果您对openGemini感兴趣,请联系我们https://opengemini.org/contact-us