天天和數(shù)據(jù)庫打交道，一天能寫上幾十條 SQL 語句，但你知道我們的系統(tǒng)是如何和數(shù)據(jù)庫交互的嗎？MySQL 如何幫我們存儲數(shù)據(jù)、又是如何幫我們管理事務(wù)？....是不是感覺真的除了寫幾個 「select * from dual」外基本腦子一片空白？這篇文章就將帶你走進 MySQL 的世界，讓你徹底了解系統(tǒng)到底是如何和 MySQL 交互的，MySQL 在接受到我們發(fā)送的 SQL 語句時又分別做了哪些事情。

MySQL 驅(qū)動

我們的系統(tǒng)在和 MySQL 數(shù)據(jù)庫進行通信的時候，總不可能是平白無故的就能接收和發(fā)送請求，就算是你沒有做什么操作，那總該是有其他的“人”幫我們做了一些事情，基本上使用過 MySQL 數(shù)據(jù)庫的程序員多多少少都會知道 MySQL 驅(qū)動這個概念的。就是這個 MySQL 驅(qū)動在底層幫我們做了對數(shù)據(jù)庫的連接，只有建立了連接了，才能夠有后面的交互?？聪聢D表示

這樣的話，在系統(tǒng)和 MySQL 進行交互之前，MySQL 驅(qū)動會幫我們建立好連接，然后我們只需要發(fā)送 SQL 語句就可以執(zhí)行 CRUD 了。一次 SQL 請求就會建立一個連接，多個請求就會建立多個連接，那么問題來了，我們系統(tǒng)肯定不是一個人在使用的，換句話說肯定是存在多個請求同時去爭搶連接的情況。我們的 web 系統(tǒng)一般都是部署在 tomcat 容器中的，而 tomcat 是可以并發(fā)處理多個請求的，這就會導(dǎo)致多個請求會去建立多個連接，然后使用完再都去關(guān)閉，這樣會有什么問題呢？如下圖

java 系統(tǒng)在通過 MySQL 驅(qū)動和 MySQL 數(shù)據(jù)庫連接的時候是基于 TCP/IP 協(xié)議的，所以如果每個請求都是新建連接和銷毀連接，那這樣勢必會造成不必要的浪費和性能的下降，也就說上面的多線程請求的時候頻繁的創(chuàng)建和銷毀連接顯然是不合理的。必然會大大降低我們系統(tǒng)的性能，但是如果給你提供一些固定的用來連接的線程，這樣是不是不需要反復(fù)的創(chuàng)建和銷毀連接了呢？相信懂行的朋友會會心一笑，沒錯，說的就是數(shù)據(jù)庫連接池。

數(shù)據(jù)庫連接池：維護一定的連接數(shù)，方便系統(tǒng)獲取連接，使用就去池子中獲取，用完放回去就可以了，我們不需要關(guān)心連接的創(chuàng)建與銷毀，也不需要關(guān)心線程池是怎么去維護這些連接的。

常見的數(shù)據(jù)庫連接池有 Druid、C3P0、DBCP，連接池實現(xiàn)原理在這里就不深入討論了，采用連接池大大節(jié)省了不斷創(chuàng)建與銷毀線程的開銷，這就是有名的「池化」思想，不管是線程池還是 HTTP 連接池，都能看到它的身影。

數(shù)據(jù)庫連接池

到這里，我們已經(jīng)知道的是我們的系統(tǒng)在訪問 MySQL 數(shù)據(jù)庫的時候，建立的連接并不是每次請求都會去創(chuàng)建的，而是從數(shù)據(jù)庫連接池中去獲取，這樣就解決了因為反復(fù)的創(chuàng)建和銷毀連接而帶來的性能損耗問題了。不過這里有個小問題，業(yè)務(wù)系統(tǒng)是并發(fā)的，而 MySQL 接受請求的線程呢，只有一個？

其實 MySQL 的架構(gòu)體系中也已經(jīng)提供了這樣的一個池子，也是數(shù)據(jù)庫連池。雙方都是通過數(shù)據(jù)庫連接池來管理各個連接的，這樣一方面線程之前不需要是爭搶連接，更重要的是不需要反復(fù)的創(chuàng)建的銷毀連接。

至此系統(tǒng)和 MySQL 數(shù)據(jù)庫之間的連接問題已經(jīng)說明清楚了。那么 MySQL 數(shù)據(jù)庫中的這些連接是怎么來處理的，又是誰來處理呢？

網(wǎng)絡(luò)連接必須由線程來處理

對計算基礎(chǔ)稍微有一點了解的的同學(xué)都是知道的，網(wǎng)絡(luò)中的連接都是由線程來處理的，所謂網(wǎng)絡(luò)連接說白了就是一次請求，每次請求都會有相應(yīng)的線程去處理的。也就是說對于 SQL 語句的請求在 MySQL 中是由一個個的線程去處理的。

那這些線程會怎么去處理這些請求？會做哪些事情？

SQL 接口

MySQL 中處理請求的線程在獲取到請求以后獲取 SQL 語句去交給 SQL 接口去處理。

查詢解析器

假如現(xiàn)在有這樣的一個 SQL

SELECT stuName,age,sex FROM students WHERE id=1

但是這個 SQL 是寫給我們?nèi)丝吹模瑱C器哪里知道你在說什么？這個時候解析器就上場了。他會將 SQL 接口傳遞過來的 SQL 語句進行解析，翻譯成 MySQL 自己能認識的語言，至于怎么解析的就不需要再深究了，無非是自己一套相關(guān)的規(guī)則。

現(xiàn)在 SQL 已經(jīng)被解析成 MySQL 認識的樣子的，那下一步是不是就是執(zhí)行嗎？理論上是這樣子的，但是 MySQL 的強大遠不止于此，他還會幫我們選擇最優(yōu)的查詢路徑。

什么叫最優(yōu)查詢路徑？就是 MySQL 會按照自己認為的效率最高的方式去執(zhí)行查詢

具體是怎么做到的呢？這就要說到 MySQL 的查詢優(yōu)化器了

MySQL 查詢優(yōu)化器

查詢優(yōu)化器內(nèi)部具體怎么實現(xiàn)的我們不需要是關(guān)心，我需要知道的是 MySQL 會幫我去使用他自己認為的最好的方式去優(yōu)化這條 SQL 語句，并生成一條條的執(zhí)行計劃，比如你創(chuàng)建了多個索引，MySQL 會依據(jù)成本最小原則來選擇使用對應(yīng)的索引，這里的成本主要包括兩個方面, IO 成本和 CPU 成本

IO 成本: 即從磁盤把數(shù)據(jù)加載到內(nèi)存的成本，默認情況下，讀取數(shù)據(jù)頁的 IO 成本是 1，MySQL 是以頁的形式讀取數(shù)據(jù)的，即當用到某個數(shù)據(jù)時，并不會只讀取這個數(shù)據(jù)，而會把這個數(shù)據(jù)相鄰的數(shù)據(jù)也一起讀到內(nèi)存中，這就是有名的程序局部性原理，所以 MySQL 每次會讀取一整頁，一頁的成本就是 1。所以 IO 的成本主要和頁的大小有關(guān)

CPU 成本：將數(shù)據(jù)讀入內(nèi)存后，還要檢測數(shù)據(jù)是否滿足條件和排序等 CPU 操作的成本，顯然它與行數(shù)有關(guān)，默認情況下，檢測記錄的成本是 0.2。

MySQL 優(yōu)化器 會計算 「IO 成本 + CPU」 成本最小的那個索引來執(zhí)行

優(yōu)化器執(zhí)行選出最優(yōu)索引等步驟后，會去調(diào)用存儲引擎接口，開始去執(zhí)行被 MySQL 解析過和優(yōu)化過的 SQL 語句

存儲引擎

查詢優(yōu)化器會調(diào)用存儲引擎的接口，去執(zhí)行 SQL，也就是說真正執(zhí)行 SQL 的動作是在存儲引擎中完成的。數(shù)據(jù)是被存放在內(nèi)存或者是磁盤中的（存儲引擎是一個非常重要的組件，后面會詳細介紹）

執(zhí)行器

執(zhí)行器是一個非常重要的組件，因為前面那些組件的操作最終必須通過執(zhí)行器去調(diào)用存儲引擎接口才能被執(zhí)行。執(zhí)行器最終最根據(jù)一系列的執(zhí)行計劃去調(diào)用存儲引擎的接口去完成 SQL 的執(zhí)行

初識存儲引擎

我們以一個更新的SQL語句來說明，SQL 如下

UPDATE students SET stuName = '小強' WHERE id = 1

當我們系統(tǒng)發(fā)出這樣的查詢?nèi)ソ唤o MySQL 的時候，MySQL 會按照我們上面介紹的一系列的流程最終通過執(zhí)行器調(diào)用存儲引擎去執(zhí)行，流程圖就是上面那個。在執(zhí)行這個 SQL 的時候 SQL 語句對應(yīng)的數(shù)據(jù)要么是在內(nèi)存中，要么是在磁盤中，如果直接在磁盤中操作，那這樣的隨機IO讀寫的速度肯定讓人無法接受的，所以每次在執(zhí)行 SQL 的時候都會將其數(shù)據(jù)加載到內(nèi)存中，這塊內(nèi)存就是 InnoDB 中一個非常重要的組件：緩沖池Buffer Pool

Buffer Pool

Buffer Pool （緩沖池）是InnoDB存儲引擎中非常重要的內(nèi)存結(jié)構(gòu)，顧名思義，緩沖池其實就是類似 Redis 一樣的作用，起到一個緩存的作用，因為我們都知道MySQL的數(shù)據(jù)最終是存儲在磁盤中的，如果沒有這個 Buffer Pool 那么我們每次的數(shù)據(jù)庫請求都會磁盤中查找，這樣必然會存在 IO 操作，這肯定是無法接受的。但是有了 Buffer Pool 就是我們第一次在查詢的時候會將查詢的結(jié)果存到 Buffer Pool 中，這樣后面再有請求的時候就會先從緩沖池中去查詢，如果沒有再去磁盤中查找，然后再放到 Buffer Pool 中，如下圖

按照上面的那幅圖，這條 SQL 語句的執(zhí)行步驟大致是這樣子的

innodb 存儲引擎會在緩沖池中查找 id=1 的這條數(shù)據(jù)是否存在

發(fā)現(xiàn)不存在，那么就會去磁盤中加載，并將其存放在緩沖池中

該條記錄會被加上一個獨占鎖（總不能你在修改的時候別人也在修改吧，這個機制本篇文章不重點介紹，以后會專門寫文章來詳細講解）

undo 日志文件：記錄數(shù)據(jù)被修改前的樣子

undo 顧名思義，就是沒有做，沒發(fā)生的意思。undo log 就是沒有發(fā)生事情（原本事情是什么）的一些日志

我們剛剛已經(jīng)說了，在準備更新一條語句的時候，該條語句已經(jīng)被加載到 Buffer pool 中了，實際上這里還有這樣的操作，就是在將該條語句加載到 Buffer Pool 中的時候同時會往 undo 日志文件中插入一條日志，也就是將 id=1 的這條記錄的原來的值記錄下來。

這樣做的目的是什么？

Innodb 存儲引擎的最大特點就是支持事務(wù)，如果本次更新失敗，也就是事務(wù)提交失敗，那么該事務(wù)中的所有的操作都必須回滾到執(zhí)行前的樣子，也就是說當事務(wù)失敗的時候，也不會對原始數(shù)據(jù)有影響，看圖說話

這里說句額外話，其實 MySQL 也是一個系統(tǒng)，就好比我們平時開發(fā)的 java 的功能系統(tǒng)一樣，MySQL 使用的是自己相應(yīng)的語言開發(fā)出來的一套系統(tǒng)而已，它根據(jù)自己需要的功能去設(shè)計對應(yīng)的功能，它即然能做到哪些事情，那么必然是設(shè)計者們當初這么定義或者是根據(jù)實際的場景變更演化而來的。所以大家放平心態(tài)，把 MySQL 當作一個系統(tǒng)去了解熟悉他。

到這一步，我們的執(zhí)行的 SQL 語句已經(jīng)被加載到 Buffer Pool 中了，然后開始更新這條語句，更新的操作實際是在Buffer Pool中執(zhí)行的，那問題來了，按照我們平時開發(fā)的一套理論緩沖池中的數(shù)據(jù)和數(shù)據(jù)庫中的數(shù)據(jù)不一致時候，我們就認為緩存中的數(shù)據(jù)是臟數(shù)據(jù)，那此時 Buffer Pool 中的數(shù)據(jù)豈不是成了臟數(shù)據(jù)？沒錯，目前這條數(shù)據(jù)就是臟數(shù)據(jù)，Buffer Pool 中的記錄是小強 數(shù)據(jù)庫中的記錄是旺財 ，這種情況 MySQL是怎么處理的呢，繼續(xù)往下看

redo 日志文件：記錄數(shù)據(jù)被修改后的樣子

除了從磁盤中加載文件和將操作前的記錄保存到 undo 日志文件中，其他的操作是在內(nèi)存中完成的，內(nèi)存中的數(shù)據(jù)的特點就是：斷電丟失。如果此時 MySQL 所在的服務(wù)器宕機了，那么 Buffer Pool 中的數(shù)據(jù)會全部丟失的。這個時候 redo 日志文件就需要來大顯神通了

畫外音：redo 日志文件是 InnoDB 特有的，他是存儲引擎級別的，不是 MySQL 級別的

redo 記錄的是數(shù)據(jù)修改之后的值，不管事務(wù)是否提交都會記錄下來，例如，此時將要做的是update students set stuName='小強' where id=1; 那么這條操作就會被記錄到 redo log buffer 中，啥？怎么又出來一個 redo log buffer ,很簡單，MySQL 為了提高效率，所以將這些操作都先放在內(nèi)存中去完成，然后會在某個時機將其持久化到磁盤中。

截至目前，我們應(yīng)該都熟悉了 MySQL 的執(zhí)行器調(diào)用存儲引擎是怎么將一條 SQL 加載到緩沖池和記錄哪些日志的，流程如下：

準備更新一條 SQL 語句

MySQL（innodb）會先去緩沖池（BufferPool）中去查找這條數(shù)據(jù)，沒找到就會去磁盤中查找，如果查找到就會將這條數(shù)據(jù)加載到緩沖池（BufferPool）中

在加載到 Buffer Pool 的同時，會將這條數(shù)據(jù)的原始記錄保存到 undo 日志文件中

innodb 會在 Buffer Pool 中執(zhí)行更新操作

更新后的數(shù)據(jù)會記錄在 redo log buffer 中

上面說的步驟都是在正常情況下的操作，但是程序的設(shè)計和優(yōu)化并不僅是為了這些正常情況而去做的，也是為了那些臨界區(qū)和極端情況下出現(xiàn)的問題去優(yōu)化設(shè)計的

這個時候如果服務(wù)器宕機了，那么緩存中的數(shù)據(jù)還是丟失了。真煩，竟然數(shù)據(jù)總是丟失，那能不能不要放在內(nèi)存中，直接保存到磁盤呢？很顯然不行，因為在上面也已經(jīng)介紹了，在內(nèi)存中的操作目的是為了提高效率。

此時，如果 MySQL 真的宕機了，那么沒關(guān)系的，因為 MySQL 會認為本次事務(wù)是失敗的，所以數(shù)據(jù)依舊是更新前的樣子，并不會有任何的影響。

好了，語句也更新好了那么需要將更新的值提交啊，也就是需要提交本次的事務(wù)了，因為只要事務(wù)成功提交了，才會將最后的變更保存到數(shù)據(jù)庫，在提交事務(wù)前仍然會具有相關(guān)的其他操作

將 redo Log Buffer 中的數(shù)據(jù)持久化到磁盤中，就是將 redo log buffer 中的數(shù)據(jù)寫入到 redo log 磁盤文件中，一般情況下，redo log Buffer 數(shù)據(jù)寫入磁盤的策略是立即刷入磁盤（具體策略情況在下面小總結(jié)出會詳細介紹）,上圖

如果 redo log Buffer 刷入磁盤后，數(shù)據(jù)庫服務(wù)器宕機了，那我們更新的數(shù)據(jù)怎么辦？此時數(shù)據(jù)是在內(nèi)存中，數(shù)據(jù)豈不是丟失了？不，這次數(shù)據(jù)就不會丟失了，因為 redo log buffer 中的數(shù)據(jù)已經(jīng)被寫入到磁盤了，已經(jīng)被持久化了，就算數(shù)據(jù)庫宕機了，在下次重啟的時候 MySQL 也會將 redo 日志文件內(nèi)容恢復(fù)到 Buffer Pool 中（這邊我的理解是和 Redis 的持久化機制是差不多的，在 Redis 啟動的時候會檢查 rdb 或者是 aof 或者是兩者都檢查，根據(jù)持久化的文件來將數(shù)據(jù)恢復(fù)到內(nèi)存中）

到此為止，從執(zhí)行器開始調(diào)用存儲引擎接口做了哪些事情呢？

1.準備更新一條 SQL 語句

2.MySQL（innodb）會先去緩沖池（BufferPool）中去查找這條數(shù)據(jù)，沒找到就會去磁盤中查找，如果查找到就會將這條數(shù)據(jù)加載

到緩沖池（BufferPool）中 3.在加載到 Buffer Pool 的同時，會將這條數(shù)據(jù)的原始記錄保存到 undo 日志文件中

4.innodb 會在 Buffer Pool 中執(zhí)行更新操作

5.更新后的數(shù)據(jù)會記錄在 redo log buffer 中

---到此是前面已經(jīng)總結(jié)過的---

6.MySQL 提交事務(wù)的時候，會將 redo log buffer 中的數(shù)據(jù)寫入到 redo 日志文件中 刷磁盤可以通過 innodb_flush_log_at_trx_commit 參數(shù)來設(shè)置

值為 0 表示不刷入磁盤

值為 1 表示立即刷入磁盤

值為 2 表示先刷到 os cache

7.myslq 重啟的時候會將 redo 日志恢復(fù)到緩沖池中

截止到目前為止，MySQL 的執(zhí)行器調(diào)用存儲引擎的接口去執(zhí)行【執(zhí)行計劃】提供的 SQL 的時候 InnoDB 做了哪些事情也就基本差不多了，但是這還沒完。下面還需要介紹下 MySQL 級別的日志文件 bin log

bin log 日志文件：記錄整個操作過程

上面介紹到的redo log是 InnoDB 存儲引擎特有的日志文件，而bin log屬于是 MySQL 級別的日志。redo log記錄的東西是偏向于物理性質(zhì)的，如：“對什么數(shù)據(jù)，做了什么修改”。bin log是偏向于邏輯性質(zhì)的，類似于：“對 students 表中的 id 為 1 的記錄做了更新操作” 兩者的主要特點總結(jié)如下:

bin log文件是如何刷入磁盤的?

bin log 的刷盤是有相關(guān)的策略的，策略可以通過sync_bin log來修改，默認為 0，表示先寫入 os cache，也就是說在提交事務(wù)的時候，數(shù)據(jù)不會直接到磁盤中，這樣如果宕機bin log數(shù)據(jù)仍然會丟失。所以建議將sync_bin log設(shè)置為 1 表示直接將數(shù)據(jù)寫入到磁盤文件中。

刷入 bin log 有以下幾種模式

1、 STATMENT

基于 SQL 語句的復(fù)制(statement-based replication, SBR)，每一條會修改數(shù)據(jù)的 SQL 語句會記錄到 bin log 中

【優(yōu)點】：不需要記錄每一行的變化，減少了 bin log 日志量，節(jié)約了 IO , 從而提高了性能

【缺點】：在某些情況下會導(dǎo)致主從數(shù)據(jù)不一致，比如執(zhí)行sysdate()、slepp()等

2、ROW

基于行的復(fù)制(row-based replication, RBR)，不記錄每條SQL語句的上下文信息，僅需記錄哪條數(shù)據(jù)被修改了

【優(yōu)點】：不會出現(xiàn)某些特定情況下的存儲過程、或 function、或 trigger 的調(diào)用和觸發(fā)無法被正確復(fù)制的問題

【缺點】：會產(chǎn)生大量的日志，尤其是 alter table 的時候會讓日志暴漲

3、MIXED

基于 STATMENT 和 ROW 兩種模式的混合復(fù)制( mixed-based replication, MBR )，一般的復(fù)制使用 STATEMENT 模式保存 bin log ，對于 STATEMENT 模式無法復(fù)制的操作使用 ROW 模式保存 bin log

那既然bin log也是日志文件，那它是在什么記錄數(shù)據(jù)的呢？

其實 MySQL 在提交事務(wù)的時候，不僅僅會將 redo log buffer 中的數(shù)據(jù)寫入到redo log 文件中，同時也會將本次修改的數(shù)據(jù)記錄到 bin log文件中，同時會將本次修改的bin log文件名和修改的內(nèi)容在bin log中的位置記錄到redo log中，最后還會在redo log最后寫入 commit 標記，這樣就表示本次事務(wù)被成功的提交了。

如果在數(shù)據(jù)被寫入到bin log文件的時候，剛寫完，數(shù)據(jù)庫宕機了，數(shù)據(jù)會丟失嗎？

首先可以確定的是，只要redo log最后沒有 commit 標記，說明本次的事務(wù)一定是失敗的。但是數(shù)據(jù)是沒有丟失了，因為已經(jīng)被記錄到redo log的磁盤文件中了。在 MySQL 重啟的時候，就會將 redo log 中的數(shù)據(jù)恢復(fù)（加載）到Buffer Pool中。

好了，到目前為止，一個更新操作我們基本介紹得差不多，但是你有沒有感覺少了哪件事情還沒有做？是不是你也發(fā)現(xiàn)這個時候被更新記錄僅僅是在內(nèi)存中執(zhí)行的，哪怕是宕機又恢復(fù)了也僅僅是將更新后的記錄加載到Buffer Pool中，這個時候 MySQL 數(shù)據(jù)庫中的這條記錄依舊是舊值，也就是說內(nèi)存中的數(shù)據(jù)在我們看來依舊是臟數(shù)據(jù)，那這個時候怎么辦呢？

其實 MySQL 會有一個后臺線程，它會在某個時機將我們Buffer Pool中的臟數(shù)據(jù)刷到 MySQL 數(shù)據(jù)庫中，這樣就將內(nèi)存和數(shù)據(jù)庫的數(shù)據(jù)保持統(tǒng)一了。

本文總結(jié)

到此，關(guān)于Buffer Pool、Redo Log Buffer 和undo log、redo log、bin log 概念以及關(guān)系就基本差不多了。

我們再回顧下

Buffer Pool 是 MySQL 的一個非常重要的組件，因為針對數(shù)據(jù)庫的增刪改操作都是在 Buffer Pool 中完成的

Undo log 記錄的是數(shù)據(jù)操作前的樣子

redo log 記錄的是數(shù)據(jù)被操作后的樣子（redo log 是 Innodb 存儲引擎特有）

bin log 記錄的是整個操作記錄（這個對于主從復(fù)制具有非常重要的意義）

從準備更新一條數(shù)據(jù)到事務(wù)的提交的流程描述

首先執(zhí)行器根據(jù) MySQL 的執(zhí)行計劃來查詢數(shù)據(jù)，先是從緩存池中查詢數(shù)據(jù)，如果沒有就會去數(shù)據(jù)庫中查詢，如果查詢到了就將其放到緩存池中

在數(shù)據(jù)被緩存到緩存池的同時，會寫入 undo log 日志文件

更新的動作是在 BufferPool 中完成的，同時會將更新后的數(shù)據(jù)添加到 redo log buffer 中

完成以后就可以提交事務(wù)，在提交的同時會做以下三件事

（第一件事）將redo log buffer中的數(shù)據(jù)刷入到 redo log 文件中

（第二件事）將本次操作記錄寫入到 bin log文件中

（第三件事）將 bin log 文件名字和更新內(nèi)容在 bin log 中的位置記錄到redo log中，同時在 redo log 最后添加 commit 標記

至此表示整個更新事務(wù)已經(jīng)完成

總結(jié)

文章到這里就結(jié)束了，系統(tǒng)是如何和 MySQL 數(shù)據(jù)庫打交道，提交一條更新的 SQL 語句到 MySQL，MySQL 執(zhí)行了哪些流程，做了哪些事情從宏觀上都已經(jīng)講解完成了。

原文標題：字節(jié)三面：詳解一條 SQL 的執(zhí)行過程

文章出處：【微信公眾號：數(shù)據(jù)分析與開發(fā)】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

責(zé)任編輯：haq