这是图解mysql的第2篇文章,这篇文章会通过一条sql更新语句的执行流程让大家清楚地明白:
什么是innodb页?缓存页又是什么?为什么这么设计?什么是表空间?不同存储引擎的表在文件系统的底层表示上有什么区别?buffer pool是什么?为什么需要?有哪些我们需要掌握的细节?mysql的三种日志文件redo日志、undo日志、binlog分别是什么?为什么需要这么多种类型的日志?正文开始!
之前我们讲过了一条sql查询语句是怎么去执行的,那么插入(insert)、更新(update)和删除(delete)操作的流程又是什么样子呢?
其实对于mysql而言,只有两种通常意义的操作,一种是query(查询),另一种是update(更新),后者包含了我们平常使用的insert、update和delete操作。
那么mysql的更新流程和查询流程有什么区别呢?
其实基本的流程是一致的,也要经过 处理连接 、 解析优化 、存储引擎几个步骤。主要区别在更新操作涉及到了mysql更多的细节。
注:我们接下来的所有描述,针对的都是innodb存储引擎,如果涉及到其他存储引擎,将会特殊说明
1. 一些需要知道的概念对于mysql任何存储引擎来说,数据都是存储在磁盘中的,存储引擎要操作数据,必须先把磁盘中的数据加载到内存中才可以。
那么问题来了,一次性从磁盘中加载多少数据到内存中合适呢?当获取记录时,innodb存储引擎需要一条条地把记录从磁盘中读取出来吗?
当然不行!我们知道磁盘的读写速度和内存读写速度差了几个数量级,如果我们需要读取的数据恰好运行在磁盘的不同位置,那就意味着会产生多次i/o操作。
因此,无论是操作系统也好,mysql存储引擎也罢,都有一个预读取的概念。概念的依据便是统治计算机界的局部性原理。
空间局部性:如果当前数据是正在被使用的,那么与该数据空间地址临近的其他数据在未来有更大的可能性被使用到,因此可以优先加载到寄存器或主存中提高效率
就是当磁盘上的一块数据被读取的时候,我们干脆多读一点,而不是用多少读多少。
1.1 innodb页innodb存储引擎将数据划分为若干个页,以页作为磁盘和内存之间交互的最小单位。innodb中页的大小默认为16kb。也就是默认情况下,一次最少从磁盘中读取16kb的数据到内存中,一次最少把内存中16kb的内容刷新到磁盘上。
对于innodb存储引擎而言,所有的数据(存储用户数据的索引、各种元数据、系统数据)都是以页的形式进行存储的。
1.2 表空间为了更好地管理页,mysql又设计了「表空间」的概念。表空间又有很多类型,具体类型我们不需要知道,我们只需要知道,一个表空间可以划分成很多个innodb页,innodb表数据都存储在某个表空间的页中。
为了方便我们定位,mysql贴心地为表空间设计了一个唯一标识——表空间id(space id)。同理,innodb页也有自己的唯一编号——页号(page number)。
因此,我们可以这么认为。给定表空间id和页号以及页的偏移量,我们就可以定位到innodb页的某条记录,也就是数据库表的某条记录。
1.2.1 数据表在文件系统中的表示为了更好地让大家理解这个抽象的概念,我创建了名为test的数据库,在其下分别创建了3张表t_user_innodb,t_user_myisam,t_user_memory,对应的存储引擎分别为innodb、myisam、memory。
进入mysql的数据目录,找到test目录,看一下test数据库下所有表对应的本地文件目录
drwxr-x--- 2 mysql mysql 4096 jan 26 09:28 .drwxrwxrwt 6 mysql mysql 4096 jan 26 09:24 ..-rw-r----- 1 mysql mysql 67 jan 26 09:24 db.opt-rw-r----- 1 mysql mysql 8556 jan 26 09:28 t_user_innodb.frm-rw-r----- 1 mysql mysql 98304 jan 26 09:28 t_user_innodb.ibd-rw-r----- 1 mysql mysql 8556 jan 26 09:27 t_user_memory.frm-rw-r----- 1 mysql mysql 0 jan 26 09:28 t_user_myisam.myd-rw-r----- 1 mysql mysql 1024 jan 26 09:28 t_user_myisam.myi-rw-r----- 1 mysql mysql 8556 jan 26 09:28 t_user_myisam.frm1.2.2 innodb是如何存储表数据的「表空间」是innodb存储引擎独有的概念。
我们看到t_user_innodb表在数据库对应的test目录下会生成以下两个文件
t_user_innodb.frmt_user_innodb.ibd其中,t_user_innodb.ibd就是t_user_innodb表对应的表空间在文件系统上的表示;t_user_innodb.frm用来描述表的结构,如表有哪些列,列的类型是什么等。
1.2.3 myisam是如何存储表数据的和innodb不同,myisam没有表空间的概念,表的数据和索引全都直接存放在对应的数据库子目录下,可以看到t_user_myisam对应了三个文件
t_user_myisam.mydt_user_myisam.myit_user_myisam.frm其中,t_user_myisam.myd表示表的数据文件,也就是我们实际看到的数据表的内容;t_user_myisam.myi表示表的索引文件,为该表创建的索引都会存放在这个文件中;t_user_myisam.frm用来描述表的结构。
1.2.4 memory是如何存储表数据的memory存储引擎对应的数据表只有一个描述表结构的文件t_user_memory.frm。
2. 缓冲池buffer pool为了更好的利用局部性原理带给我们的优势,innodb在处理客户端请求时,如果需要访问某个页的数据,会把该数据所在的页的全部数据加载到内存中。哪怕是只需要访问一个页中的一条数据,也需要加载整个页。
从磁盘中加载数据到内存中的操作太昂贵了!有什么办法可以提高数据操作的效率呢?缓存!
为了缓存磁盘的页,innodb在mysql服务器启动时会向操作系统申请一片连续的内存区域,这片内存区域就是 buffer pool 。
很容易理解,为了更好地缓存页数据,buffer pool对应的一片连续内存空间也被划分为若干个页,而且默认情况下,buffer pool页的大小和innodb页大小一样,都是16kb。为了区分两种不同的页,我们将buffer pool中的页面称为缓冲页。
读取数据的时候,innodb先判断数据是否在buffer pool中,如果是,则直接读取数据进行操作,不用再次从磁盘加载;如果不是,则从磁盘加载到buffer pool中,然后读取数据进行操作。
修改数据的时候,也是将数据先写到buffer pool缓冲页中,而不是每次更新操作都直接写入磁盘。当缓冲页中的数据和磁盘文件不一致的时候,缓冲页被称为脏页。
那么脏页是什么时候被同步到磁盘呢?
innodb中有专门的后台线程每隔一段时间会把脏页的多个修改刷新到磁盘上,这个动作叫做「刷脏」。
3. redo日志3.1 为什么需要redo日志不定时刷脏又带来一个问题。如果脏页的数据还没有刷新到磁盘上,此时数据库突然宕机或重启,这些数据就会丢失。
首先想到的最简单粗暴的解决方案就是在事务提交之前,把该事务修改的所有页面都刷新到磁盘。但是上文说过,页是内存和磁盘交互的最小单位,如果只修改了1个字节,却要刷新16kb的数据到磁盘上,不得不说太浪费了,此路不通!
所以,必须要有一个持久化的措施。
为了解决这个问题,innodb把对所有页的更新操作(再强调一遍,包含insert、update、delete)专门写入一个日志文件。
当有未同步到磁盘中的数据时,数据库在启动的时候,会根据这个日志文件进行数据恢复。我们常说的关系型数据库的acid特性中的d(持久性),就是通过这个日志来实现的。
这个日志文件就是大名鼎鼎的 redo日志 。
「re」在英文中的词根含义是“重新”,redo就是「重新做」的意思,顾名思义就是mysql根据这个日志文件重新进行操作
这就出现了一个有意思的问题,刷新磁盘和写redo日志都是进行磁盘操作,为什么不直接把数据刷新到磁盘中呢?
3.2 磁道寻址我们需要稍微了解一下磁道寻址的过程。磁盘的构造如下图所示。
每个硬盘都有若干个盘片,上图的硬盘有4个盘片。
每个盘片的盘面上有一圈圈的同心圆,叫做「磁道」。
从圆心向外画直线,可以将磁道划分为若干个弧段,每个磁道上一个弧段被称之为一个「扇区」(右上图白色部分)。数据是保存在扇区当中的,扇区是硬盘读写的最小单元,如果要读写数据,必须找到对应的扇区,这个过程叫做「寻址」。
3.2.1 随机i/o如果我们需要的数据是随机分散在磁盘上不同盘片的不同扇区中,那么找到相应的数据需要等到磁臂旋转到指定的盘片然后继续寻找对应的扇区,才能找到我们所需要的一块数据,持续进行此过程直到找完所有数据,这个就是随机i/o,读取数据速度非常慢。
3.2.2 顺序i/o假设我们已经找到了第一块数据,并且其他所需的数据就在这一块数据之后,那么就不需要重新寻址,可以依次拿到我们所需的数据,这个就叫顺序 i/o。
现在回答之前的问题。因为刷脏是随机i/o,而记录日志是顺序i/o(连续写的),顺序i/o效率更高,本质上是数据集中存储和分散存储的区别。因此先把修改写入日志文件,在保证了内存数据的安全性的情况下,可以延迟刷盘时机,进而提升系统吞吐。
楼宇自控各系统管理的运行和维修保养规程解析
培养“新工科”人才安徽工程大学与天马微电子签订战略合作协议
为人工智能计算提供神经形态芯片的案例
中国信息通信研究院发布信息通信业(ICT)十大趋势
2017年半导体产业的机遇与挑战
一条SQL更新语句的执行流程1
Rydberg使用原子量子传感器成功演示世界上第一个远程无线电通信
关于边缘计算的五个实用案例与优势
中国工程院网站公布了2019年工程院院士增选有效候选人名单,企业家当选院士引争议
尽可能地降低 SiC FET 的电磁干扰和开关损耗
浅谈一下无卤焊锡膏是否可以取代无铅焊膏?
新一代MacBook Pro被曝光:内置32GB内存与Kaby Lake平台
ISD4004语音芯片在语音报站器中的应用
使用PXI平台与网络分析仪实现病人大脑中风类型检测区分设计
不超19.9亿元!歌尔拟在越南设立全资子公司
超大规模玩家推动存储设备创新
大华发布一站式人工智能开发平台 加速人工智能规模产业化落地
多项技术加持TCL MiniLED智屏堪称显示领域天花板
智能算力时代,一个中国答案
京东方在可折叠面板市场超越三星