登录
首页 >  数据库 >  MySQL

PolarDB-X 开源分布式数据库在韵达科技的应用实践

来源:SegmentFault

时间:2023-01-09 13:32:23 384浏览 收藏

亲爱的编程学习爱好者,如果你点开了这篇文章,说明你对《PolarDB-X 开源分布式数据库在韵达科技的应用实践》很感兴趣。本篇文章就来给大家详细解析一下,主要介绍一下MySQL、分布式、数据库、开源、阿里云,希望所有认真读完的童鞋们,都有实质性的提高。

本文整理自韵达科技业务中台总监李波涛,在 2022 阿里巴巴开源开放周上的分享。本篇内容主要分为三个部分: 1. 企业背景 2. 应用实践 3. 未来展望。

一、背景:企业介绍 业务诉求

图片

韵达主要面向国内外提供快递、快运、供应链、仓储服务等,目前拥有 4 万多家快递服务网点,3000 多家快运服务网点,200 多家加盟商,以及 100 多家分拣中心,其中包括 4200 条快递干线,1000 多条快运干线,150 家城市配送站,业务覆盖了 100 多家重点城市,遍布全球 30 万个国家和地区,拥有 200 万平米仓储面积,从业人员 30 多万。

图片

韵达每日订单量高达几千万,每个订单有多种标签信息,因此数据量巨大。其中上游业务方有各大电商平台、订单中心、大客户、智橙网、财务中心、店配团、物流团等。

打标平台主要提供了订单标签基础服务、查询统计服务、消息推送、 CSV 文件推送、订单标签处理等。其中数据存储是核心业务,数据量较大,而且是高并发访问场景。数据存储涉及到 Kafka、 CSV、Redis、MySQL 分库分表。

下游主要为业务赋能,有韵图、智能外联、大掌柜、数据中台、结算团、韵达超市、揽派系统等一共 30 多个系统。二、应用实践:架构升级 核心能力

图片

韵达原先的业务架构存在较多痛点:

1、数据无法充分发挥业务价值:传统的分库分表方案缺少数据全局视角,对复杂查询的限制较多,需要人工进行处理。
2、历史数据清理繁琐:数据并不需要长期存储,对于业务场景而言一般只需存储 1 年。但因为分表较多,数据清理较麻烦,同时为了避免对在线业务产生影响,经常需要在业务低峰期比如凌晨,与 DBA 团队合作对历史数据做手动清理。
3、随着业务上升导致性能衰减:数据增加以后查询能力下降。另外,计算存储资源固定,难以扩容。

因此,韵达采用了阿里云开源 PolarDB-X 云原生分布式数据库对业务架构进行了升级,使架构性能得到了极大的提升:
1、运营成本降低:支持灵活设置历史数据的存储周期,可以降低存储成本。透明分布式使得使用、运维方面的成本也得以下降。高兼容 MySQL 语法对开发团队而言,学习成本也得到了降低。
2、提高弹性扩展能力:计算存储分离架构提供了弹性能力,可随时扩缩容,资源可以按需分配,提高了资源利用率。
3、高可用能力提升:引入了强一致协议,克服了主备脑裂问题。另外,多副本技术的加持使得数据更加安全可靠。

图片

上图为升级后的基于分布式数据库的业务架构。与老架构的主要差别在于,将原先基于 MySQL 的人工分库分表使用 PolarDB-X 进行了替换,架构上并未有大调整。

此外,开发团队并不需要理解 CN 节点,也不需要与 CN 节点打交道,他们看到的只是一个 PolarDB-X 数据库,可以理解为一个大型的 MySQL 实例,不存在额外的学习成本。

图片

PolarDB-X 提供了两种数据库模式,分别是 Auto 模式和 DRDS 模式。官方推荐使用 Auto 模式,它具有较好的功能特性,我们也采用了该模式。

Auto 模式分区灵活,支持自动、手动分区,单机 DDL 语法无需改动,可以直接在 PolarDB-X 上使用。高度兼容了 MySQL ,无需额外的学习成本。支持分区级分裂合并,解决了数据热点问题。

Auto 模式下的数据库建表语法与 MySQL 的建表语法完全一致,无需指定分区定义,自动采用 Primary Key 做分区,非常方便。另外,PolarDB-X 支持多种表类型,比如传统单表、广播表、分区表,且可以通过简单 DDL 语句进行灵活的转换,比如分区表通过 partition-by 即可做哈希分区,可通过 pratition 参数指定分区数,可以创建 broadcast 广播表,也可以通过 outtable 将单表转换为分区表,非常方便快捷。

图片

PolarDB-X 也提供了数据生命周期管理。

通过 Local Partition By Range(create_time)指定 TTL 表的物理时间分区列,在物理表上的数据会以此列做时间分区。可以通过 startwith 指定初始时间分区, intervial month 意为指定数据分区间隔为一个月,也可以按天或者按年进行分区。 Expire after 指每个分区 12 个月会自动清理,清理工作不再需要开发与运维在凌晨手动完成,Pre allocate 可以指定提前创建分区的数量。

TTL 在 PolarDB-X 后台通过定时任务来自动处理,节省了开发与运维的成本。

图片

韵达订单打标项目为双活部署,每天订单打标数据量 2 亿+,接口查询量 8000 多万。目前标签分类有 80 多种,随着业务发展和用户需求,标签分类可轻松扩展。赋能 30+业务应用,提供了 API 查询、统计分析、消息推送、CSV 等。

数据进行了温热分级存储,其中 Redis 存储三个月数据量,PolarDB-X 存储一年的数据量。有些数据除了统计分析用途以外,还有财务对账等回溯需求,因此会被导入 PolarDB-X,以便进行方便快捷地查询。因为数据量较大,我们采用 ProtoBuf 对数据进行了压缩。

图片

PolarDB-X 为韵达订单打标项目带来了诸多好处:
1、不再需要人工进行分库分表,可以通过创建来全局二级索引对打标数据进行灵活统计处理,快速满足业务方面的需求。
2、可以自动清理过期数据,释放空间,提高数据库操作效率,不再需要人工干预。
3、支持水平与纵向扩缩容,可以轻松应大促场景。
4、PolarDB-X 兼容 MySQL 协议,降低开发人员的学习曲线,可快速从此前的人工分库分表方案迁移到 PolarDB-X 数据库。
5、支持 online schema change ,添加二级索引不锁表。
6、多副本数据备份方案,保证了数据安全性。三、未来展望:社区贡献 领域探索

图片

PolarDB-X 提供了很多优秀的功能特性,在韵达的很多场景里可以进行推广使用。韵达存在大量高并发、海量数据存储的业务场景,因此,后续会在韵达公司内部进一步做 PolarDB-X 的推广使用。

另外,也会进一步在 HTAP 领域进行探索。 PolarDB-X 提供了 TP 和 AP 的处理能力,因此我们计划使用 PolarDB-X 替换原先 MySQL +Elasticsearch 提供的能力。同时,也会将 PolarDB-X 与韵达已有的周边生态进行融合。

社区建设方面,PolarDB-X 官方推荐部署在 K8s 平台上,提供了开源的数据库,也提供了开源的监控能力。后续韵达将基于 Prometheus 与 Grafana 做监控能力的进一步提升,比如与公司金融平台、钉钉等打通,及时了解系统运行的健康状况。

最后,韵达科技将持续在社区分享基于 PolarDB-X 开源的实战经验。

文中关于mysql的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《PolarDB-X 开源分布式数据库在韵达科技的应用实践》文章吧,也可关注golang学习网公众号了解相关技术文章。

声明:本文转载于:SegmentFault 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>
评论列表