【干货】数据库分库分表基础和实践 精选 原创 中间件小哥 2018-08-31 11:21:20 ©著作权 文章标签 DDM 数据库 中间件 文章分类 数据库 ©著作权归作者所有:来自51CTO博客作者中间件小哥的原创作品,请联系作者获取转载授权,否则将追究法律责任 数据库架构的演变 在业务数据量比较少的时代,我们使用单机数据库就能满足业务使用,随着业务请求量越来越多,数据库中的数据量快速增加,这时单机数据库已经不能满足业务的性能要求,数据库主从复制架构随之应运而生。 主从复制是将数据库写操作和读操作进行分离,使用多个只读实例(slaver replication)负责处理读请求,主实例(master)负责处理写请求,只读实例通过复制主实例的数据来保持与主实例的数据一致性。由于只读实例可以水平扩展,所以更多的读请求不成问题,随着云计算、大数据时代的到来,事情并没有完美的得以解决,当写请求越来越多,主实例的写请求变成主要的性能瓶颈。 如何解决上述问题?如果仅仅通过增加一个主实例来分担写请求,写操作如何在两个主实例之间同步来保证数据一致性,如何避免双写,问题会变的更加复杂。这时就需要用到分库分表(sharding),对写操作进行切分来解决,如图1所示: 图1:典型的读写分离和分库分表 华为云中间件产品DDM(Distributed Database Middleware)作为RDS的前置分布式数据库访问服务,彻底解决了数据库的扩展性问题,对应用透明地实现海量数据的高并发访问,实现了读写分离和分库分表。 数据分片的实现方案 数据分片的实现方案可分为应用层分片和中间件分片,这两种实现方案的特点如图2所示: 图2:应用层分片和中间件分片 DDM作为一款优秀的分布式数据库中间件产品,实现了读写分离和数据分片功能,使用DDM来分库分表,应用0改动,对应用完全透明。 分库分表的切分方式 数据的切分(Sharding)根据其切分规则的类型,可以分为两种切分模式。一种是按照不同的表(或者Schema)来切分到不同的数据库(主机)之上,这种切分方式可以称之为数据的垂直(纵向)切分;另外一种则是根据表中的数据的逻辑关系,将同一个表中的数据按照某种条件拆分到多台数据库(主机)上面,这种切分称之为数据的水平(横向)切分。 垂直切分最大特点就是规则简单,实施也更为方便,尤其适合各业务之间的耦合度非常低,相互影响很小,业务逻辑非常清晰的系统。在这种系统中,可以很容易做到将不同业务模块所使用的表分拆到不同的数据库中。根据不同的表来进行拆分,对应用程序的影响也更小,拆分规则也会比较简单清晰。 水平切分于垂直切分相比,相对来说稍微复杂一些。因为要将同一个表中的不同数据拆分到不同的数据库中,对于应用程序来说,拆分规则本身比根据表名来拆分更为复杂,后期的数据维护也会更为复杂一些。 具体而言,如果单个库太大,这时我们要看是因为表多而导致数据多,还是因为单张表里面的数据多。如果是因为表多而数据多,使用垂直切分,根据业务切分成不同的库。如果是因为单张表的数据量太大,这时要用水平切分,即把表的数据按某种规则切分成多张表,甚至多个库上的多张表。分库分表的顺序应该是先垂直分,后水平分。因为垂直分更简单,更符合我们处理现实世界问题的方式。 水平切分 相对于垂直拆分,水平拆分不是将表做分类,而是按照某个字段的某种规则来分散到多个库之中,每个表中包含一部分数据。简单来说,我们可以将数据的水平切分理解为是按照数据行的切分,就是将表中的某些行切分到一个数据库,而另外的某些行又切分到其他的数据库中,如图3: 图3:水平切分 水平切分的优点 1、拆分规则抽象好,join操作基本可以数据库做。 2、不存在单库大数据,高并发的性能瓶颈。 3、应用端改造较少。 4、 提高了系统的稳定性跟负载能力。 水平切分的缺点 1、拆分规则难以抽象。 2、分片事务一致性难以解决。 3、数据多次扩展难度跟维护量极大。 4、跨库join性能较差。 水平切分的典型分片规则 1、HASH取模 例如:取用户id,然后hash取模,分配到不同的数据库上。 2、RANGE 例如:从0到10000一个表,10001到20000一个表。 3、时间 按照时间切分,例如:将6个月前,甚至一年前的数据切出去放到另外的一张表,因为随着时间流逝,这些表的数据被查询的概率变小,所以没必要和”热数据“放在一起,这个也是“冷热数据分离”。 切分原则一般是根据业务找到适合的切分规则分散到不同的库,如图4,根据用户ID取模作为切分规则。 图4:根据userid取模进行切分 垂直切分 一个数据库由很多表的构成,每个表对应着不同的业务,垂直切分是指按照业务将表进行分类,分布到不同的数据库上面,这样也就将数据或者说压力分担到不同的库上面,如图5: 图5:垂直切分 垂直切分的优点 1、数据维护简单。 2、拆分后业务清晰,拆分规则明确。 3、系统之间整合或扩展容易。 垂直切分的缺点 1、事务处理复杂。 2、部分业务表无法join,只能通过接口方式解决,提高了系统复杂度。 3、受每种业务不同的限制存在单库性能瓶颈,不易数据扩展跟性能提高。 由于垂直切分是按照业务的分类将表分散到不同的库,所以有些业务表会过于庞大,存在单库读写与存储瓶颈,所以就需要水平拆分来做解决。 切分原则 由于数据切分后数据Join的难度,在此也分享一下数据切分的经验: 第一原则:能不切分尽量不要切分。 第二原则:如果要切分一定要选择合适的切分规则,提前规划好。 第三原则:数据切分尽量通过数据冗余或表分组(Table Group)来降低跨库Join的可能。 第四原则:由于数据库中间件对数据Join实现的优劣难以把握,而且实现高性能难度极大,业务读取尽量少使用多表Join。 分库分表后的问题和应对策略 分库分表主要用于应对当前互联网常见的两个场景:海量数据和高并发。然而,分库分表是一把双刃剑,虽然很好的应对海量数据和高并发对数据库的冲击和压力,但也提高了系统的复杂度和维护成本,带来一些问题。 1、事务支持 在分库分表后,就成为分布式事务了,如何保证数据的一致性成为一个必须面对的问题。一般情况下,使存储数据尽可能达到用户一致,保证系统经过一段较短的时间的自我恢复和修正,数据最终达到一致。 2、分页与排序问题 一般情况下,列表分页时需要按照指定字段进行排序。在单库单表的情况下,分页和排序也是非常容易的。但是,随着分库与分表的演变,也会遇到跨库排序和跨表排序问题。为了最终结果的准确性,需要在不同的分表中将数据进行排序并返回,并将不同分表返回的结果集进行汇总和再次排序,最后再返回给用户。 3、表关联问题 在单库单表的情况下,联合查询是非常容易的。但是,随着分库与分表的演变,联合查询就遇到跨库关联的问题。粗略的解决方法:ER分片:子表的记录与所关联的父表记录存放在同一个数据分片上。全局表:基础数据,所有库都拷贝一份。字段冗余:这样有些字段就不用join去查询了。ShareJoin:是一个简单的跨分片join,目前支持2个表的join,原理就是解析SQL语句,拆分成单表的SQL语句执行,然后把各个节点的数据汇集。 4、分布式全局唯一ID 在单库单表的情况下,直接使用数据库自增特性来生成主键ID,这样确实比较简单。在分库分表的环境中,数据分布在不同的分表上,不能再借助数据库自增长特性,需要使用全局唯一ID。 分库分表案例 某税务核心征管系统,全国34个省国/地税,电子税务局15省格局。 技术路径:核心征管 + 纳税服务 业务应用分布式上云改造。 业务挑战 1、数据查询时间3-5秒,响应速度慢严重影响体验 当前业务逻辑大量放在数据库层,一个办税业务的事务边界过大(40条SQL语句),涉及以“申报”、“发票”大表为主的多张表关联事务操作,导致业务查询响应速度慢。 2、亿级数据快速的增长,挑战业务性能瓶颈 省级税务局,办税高峰期承载百万级用户并发量,3000-5000TPS。现网分析得到数据:核心征管库近1000张表,其中“申报”、“发票”业务表数据量大、增长快,是主要瓶颈表;发票综合信息:每省10亿级条记录,每年千万到亿条记录级别增量;申报信息表:亿级记录数据量。 解决方案 1、垂直分库、微服务分解数据库压力,降低单业务sql数 基于微服务将大事务拆解为异步小事务,业务逻辑从数据库层面剥离。拆分主库数据,将大表垂直拆分到多个数据库中,一个业务40条SQL缩减到20条SQL,达到分解数据库压力的目的。 2、数据分片支撑海量数据增长,线性提升业务处理速度 单表亿级记录以纳税人作为拆分键,拆分到RDS-MySQL 的128个分片上。实现支撑海量数据的存储。拆分后数据库设计简洁、简单,数据库的表之间不设外键,不写触发器,不写存储过程,实现数据库记录的水平扩展。 3、读写分离提升查询性能 DDM自动实现读写分离,透明地完成写操作和读操作的分发,应用程序无需做特殊的改动和处理逻辑。写操作分发到RDS主实例,读操作自动分发到RDS的多个读实例上,这样写操作不会影响读操作的并发,读并发业务增长时只需要按需增加只读实例即可。 企业受益 1、使用了DDM之后,轻松突破原来的性能瓶颈,一次业务操作,原来需要3到5秒,现在只需要1秒。 2、读写操作通过DDM的自动读写分离,在不改动业务情况下,轻松提升了整体的读写并发能力。 赞 收藏 评论 分享 举报 上一篇:5分钟Serverless实践 | 构建无服务器的敏感词过滤后端系统 下一篇:5分钟APIG实战: 使用Rust语言快速构建API能力开放 提问和评论都可以,用心的回复会被更多人看到 评论 发布评论 全部评论 () 最热 最新 相关文章 什么是数据库表的 schema 在详细介绍数据库领域的 schema 之前,让我们首先理解数据库是如何在各种应用程序中发挥核心作用的。数据库不仅仅是存储数据的容器,它还管理着数据的结构、存储方式和数据之间的关系,确保数据的完整性、一致性和安全性。在这个基础上,schema 的概念自然而然地成为了数据库设计和实现的关键要素。Schema 在数据库领域中,指的是数据库中数据的组织和结构的定义。它包括了数据库中所有表的定义、字段的名 数据库 数据 字段 代码实现Excel表导入数据库 Java代码实现Excel表导入数据库设计思想连接数据库:使用DriverManager.getConnection(url, username, password)方法连接数据库,获取数据库连接对象Connection。打开Excel文件:使用FileInputStream excelFile = new FileInputStream(excelFilePath)打开Excel 数据 数据库 SQL Java实现Excel表导入数据库 在企业级应用开发中,将Excel文件中的数据导入到数据库是一项常见而重要的需求。本文将详细介绍如何使用Java,结合Apache POI库和JDBC技术,实现从Excel表格到MySQL数据库的数据迁移。整个过程分为三个主要步骤:添加必要的依赖库、从Excel文件中读取数据以及将数据导入到数据库中。添加依赖库首先,为确保项目能够处理Excel文件并与MySQL数据库交互,需要在项目的pom.xml List 数据库 MySQL 数据库如何分库和分表? 数据库如何分库和分表,这时我们做大型项目面临的一个问题,数据库设计的好坏直接影响后期项目的扩展和维护 数据 数据库 字段 分库分表 主键 数据库的分库分表 1.、水平分库(1)概念:以字段为依据,按照一定策略(hash、range等),将一个库中的数据查分到多个库中(2)结果: 每个库 数据库 分库 分表 数据 字段 数据库分库分表 1、分库分表架构关系型数据库本身比较容易成为系统瓶颈,单机存储容量、连接数、处理能力都有限。当单表的数据量达到1000W或100G以后,由于查询维 度较多,即使添加从库、优化索引,做很多操作时性能仍下降严重。此时就要考虑对其进行切分了,切分的目的就在于减少数据库的负担,缩短查询时间。数据库分布式核心内容无非就是数据切分(Sharding),以及切分后对数据的定位、整合。数据切分就是将数据分... 数据库 分库分表 java自己实现数据库分库分表 # 实现Java数据库分库分表## 引言在大型互联网应用中,数据量通常非常庞大,单一的数据库无法满足高并发、高可用、高扩展性的需求。因此,数据库分库分表成为了解决这一问题的常用方案。本文将介绍如何使用Java自己实现数据库分库分表的方法,并提供详细的步骤和代码示例。## 整体流程下面是实现数据库分库分表的整体流程,可以用表格形式展示。| 步骤 | 描述 || -------- 数据库 分库分表 数据迁移 MySQL数据库分库分表 1、引言 随着互联网应用的广泛普及,海量数据的存储和访问成为了系统设计的瓶颈问题。对于一个大型的互联网应用,每天几十亿的PV无疑对数据库造成了相当高的负载。对于系统的稳定性和扩展性造成了极大的问题。通过数据切分来提高网站性能,横向扩展数据层已经成为架构研发人员首选的方式。水平切分数据库:可以降低单台机器的负载,同时最大限度的降低了宕机造成的损失;负载均衡策略 数据库 分库 &nbs 数据库之分库分表 经常会听说数据库的分库分表,工作后更是发现这是一个基本必备的知识,由于自己对这块了解不是很好,所以就最近在关注学习,下面shard”,作为数据... 数据库之分库分表 分库分表 数据库 数据 数据库分库分表的总结 (1)为什么要分库分表?(设计高并发系统的时候,数据库层面该如何设计?)分表是啥意思?就是把一个表的数据放到多个表中,然后查询的时候你就查一个表。比如按照用户id来分表,将一个用户的数据就放在一个表中。然后操作的时候你对一个用户就操作那个表就好了。这样可以控制每个表的数据量在可控的范围内,比如每个表就固定在200万以内。分库是啥意思?就是你一个库一般我们经验而言,最多支撑到并发200... Mysql 编程 数据库——MySQL分库分表 1、了解几个问题?1、分库分表相关术语读写分离: 不同的数据库,同步相同的数据,分别只负责数据的读和写;分区: 指定分区列表达式,把记录拆分到不同的区域中(必须是同一服务器,可以是不同硬盘),应用看来还是同一张表,没有变化;分库:一个系统的多张数据表,存储到多个数据库实例中;分表: 对于一张多行(记录)多列(字段)的二维数据表,又分两种情形:(1) 垂直分表: 竖向切分,不同分表存储不同的字段,可 【数据库】-- Mysql 数据 服务器 数据库 android 数据库分库分表 数据库分库分表实现 一、分库分表的背景在数据爆炸的年代,单表数据达到千万级别,甚至过亿的量,都是很常见的情景。这时候再对数据库进行操作就是非常吃力的事情了,select个半天都出不来数据,这时候业务已经难以维系。不得已,分库分表提上日程,我们的目的很简单,减小数据库的压力,缩短表的操作时间。二、如何进行数据切分数据切分(Sharding),简单的来说,就是通过某种特定的条件,将存放在同一个数据库中的数据拆分存放到多个 android 数据库分库分表 数据 数据库 分布式事务 iOS 数据库分库分表 数据库的分库分表 随着业务的发展,数据库的数据量也越来越大,数据慢慢达到GB,TB级别,获取数据的效率越来越慢,简单的数据库分区以及单个数据服务器已经不能满足数据的增长,这个时候我们就需要用到数据库集群了,有了数据库的集群肯定会涉及到数据库的分库分表操作数据库的分库分表操作又统称为数据库分片,其分为垂直拆分和水平拆分,我们先在下面介绍下分库分表的概念: 分库:& iOS 数据库分库分表 分库分表 mycat 数据 分表 数据库分库分表技术的python实现 数据库分库分表方案 分库分表和数据库分片方案数据库数据量达到千万级别时查询效率会很低,分库分表是一种很有效的解决方案。垂直划分和水平划分垂直划分:垂直划分又分为垂直分库和垂直分表两种,垂直分库就是将关联度低的各种表放在不同的数据库中,垂直分表是针对表的列进行的,将字段拆到其他表中形成新表,这样表的记录就会变小,索引就会降低空间消耗,提升性能。垂直划分业务逻辑清晰便于管理,提升高并发性能,但是表无法连接查询,涉及分布式 数据库分库分表技术的python实现 数据库 连接查询 数据 java 分表分库事务 数据库分库分表实现 中大型项目中,一旦遇到数据量比较大,小伙伴应该都知道就应该对数据进行拆分了。有垂直和水平两种。垂直拆分比较简单,也就是本来一个数据库,数据量大之后,从业务角度进行拆分多个库。如下图,独立的拆分出订单库和用户库。水平拆分的概念,是同一个业务数据量大之后,进行水平拆分。上图中订单数据达到了4000万,我们也知道mysql单表存储量推荐是百万级,如果不进行处理,mysql单表数据太大,会导致性能变慢。使 java 分表分库事务 数据 取模 分表 【数据库】分库分表 本质 当业务的增长导致数据库瓶颈的时候,一种解决瓶颈的手段。分库分表的核心是创建一个对业务透明的逻辑大表,隔离存储的负载度,进而实现在业务应用眼里的无限存储! 分表 分表解决的是:过大的数据表影响计算速度的问题,比如单表上亿,那么拆成十个表,必然会比一个表更快,用了一部分计算落表时间,来换取单表计算 ... 分库分表 中间件 数据库 回滚 分表 java sql数据库分库 java实现分库分表 一、使用技术描述spring-boot1 2 org.springframework.boot3 spring-boot-starter-parent4 2.0.6.RELEASE5 1 2 1.83 4.0.0-RC34 2.1.35 1.2.16 mybatis1 2 org.mybatis.spring.boot3 mybatis-spring-b java sql数据库分库 java分库框架shard spring 字段 bc 数据库 分库分表 sql server 操作 sql分库分表怎么实现 1.数据库分库分表设计(1) 2.数据库分库分表,实现分库分表后的分页查询,比如所有用户信息分页显示,用户表q_user_01–q_user_10淘宝的做法是拆分买家库和卖家库,也就是两个库:买家库、卖家库。买家库,按照用户的id来分库分表。卖家库,按照卖家的id来分库分表。实际上是通过数据冗余解决的:一个订单,在买家库里面有,在卖家库里面也存储了一份。下订单的时候,要写两份数据。先把订单写入买家 数据库架构 mysql php 数据库 取模 mysql 数据库分库分表 mysql分库分表原则 Mysql分库分表方案1.为什么要分表:当一张表的数据达到几千万时,你查询一次所花的时间会变多,如果有联合查询的话,我想有可能会死在那儿了。分表的目的就在于此,减小数据库的负担,缩短查询时间。mysql中有一种机制是表锁定和行锁定,是为了保证数据的完整性。表锁定表示你们都不能对这张表进行操作,必须等我对表操作完才行。行锁定也一样,别的sql必须等我对这条数据操作完了,才能对这条数据进行操作。2. mysql 数据库分库分表 mysql big data 数据库 分库分表 分库分表 和 数据仓库 数据库的分库分表概念 一、什么是分库分表一.分库分库就是一个数据库分成多个数据库,部署到不同机器。二.分表就是一个数据库表分成多个表二、为什么需要进行分库分表一.为什么需要分库呢?1、磁盘存储业务量剧增,MySQL单机磁盘容量会撑爆,拆成多个数据库,磁盘使用率大大降低。2、并发连接支持我们知道数据库连接是有限的。在高并发的场景下,大量请求访问数据库,MySQL单机是扛不住的!当 前非常火的微服务架构出现,就是为了应对高 分库分表 和 数据仓库 学习 数据库 sql 数据