前段時間在開發(fā)一個使用SSD做緩存的系統(tǒng)，在高速寫入數(shù)據(jù)時會出現(xiàn)大量的磁盤緩存。太多的磁盤緩存如果沒有及時的寫入磁盤中，在機器出現(xiàn)問題時是非常危險的，這樣會導致很多的數(shù)據(jù)丟失，但是如果實時的將數(shù)據(jù)刷入磁盤中，這樣寫入效率有太低了。為了弄明白Linux系統(tǒng)的這種磁盤寫入特性，最近深入的學習了一下。
    VFS（Virtual File System）的存在使得Linux可以兼容不同的文件系統(tǒng)，例如ext3、ext4、xfs、ntfs等等，其不僅具有為所有的文件系統(tǒng)實現(xiàn)一個通用的外接口的作用，還具有另一個與系統(tǒng)性能相關(guān)的重要作用——緩存。VFS中引入了高速磁盤緩存的機制，這屬于一種軟件機制，允許內(nèi)核將原本存在磁盤上的某些信息保存在RAM中，以便對這些數(shù)據(jù)的進一步訪問能快速進行，而不必慢速訪問磁盤本身。高速磁盤緩存可大致分為以下三種：
目錄項高速緩存——主要存放的是描述文件系統(tǒng)路徑名的目錄項對象
索引節(jié)點高速緩存——主要存放的是描述磁盤索引節(jié)點的索引節(jié)點對象
頁高速緩存——主要存放的是完整的數(shù)據(jù)頁對象，每個頁所包含的數(shù)據(jù)一定屬于某個文件，同時，所有的文件讀寫操作都依賴于頁高速緩存。其是Linux內(nèi)核所使用的主要磁盤高速緩存。
正是由于緩存的引入，所以VFS文件系統(tǒng)采用了文件數(shù)據(jù)延遲寫的技術(shù)，因此，如果在調(diào)用系統(tǒng)接口寫入數(shù)據(jù)時沒有使用同步寫模式，那么大多數(shù)據(jù)將會先保存在緩存中，待等到滿足某些條件時才將數(shù)據(jù)刷入磁盤里。

內(nèi)核是如何將數(shù)據(jù)刷入磁盤的呢？在看完以下兩點后就能得到答案。

1. 把臟頁寫入磁盤
    正如我們所了解的，內(nèi)核不斷用包含塊設(shè)備數(shù)據(jù)的頁填充頁高速緩存。只要進程修改了數(shù)據(jù)，相應的頁就被標記為臟頁，即把它的PG_dirty標志位置。
    Unix系統(tǒng)允許把臟緩沖區(qū)寫入塊設(shè)備的操作延遲執(zhí)行，因為這種策略可以顯著地提高系統(tǒng)的性能。對高速緩存中的頁的幾次寫操作可能只需對相應的磁盤塊進行一次緩慢的物理更新就可以滿足。此外，寫操作沒有讀操作那么緊迫，因為進程通常是不會因為延遲寫而掛起，而大部分情況都因為延遲讀而掛起。正是由于延遲寫，使得任一物理塊設(shè)備平均為讀請求提供服務(wù)將多于寫請求。
一個臟頁可能直到最后一刻（即直到系統(tǒng)關(guān)閉時）都一直逗留在主存中。然而，從延遲寫策略的局限性來看，它有兩個主要的缺點：
  一、如果發(fā)生了硬件錯誤或者電源掉電的情況，那么就無法再獲得RAM的內(nèi)容，因此，從系統(tǒng)啟動以來對文件進行的很多修改就丟失了。
  二、頁高速緩存的大小（由此存放它所需的RAM的大小）就可要很大——至少要與所訪問塊設(shè)備的大小不同。
因此，在下列條件下把臟頁刷新（寫入）到磁盤：
頁高速緩存變得太滿，但還需要更多的頁，或者臟頁的數(shù)量已經(jīng)太多。
自從頁變成臟頁以來已過去太長時間。
進程請求對塊設(shè)備或者特定文件任何待定的變化都進行刷新。通過調(diào)用sync()、fsync()或者fdatasync()系統(tǒng)調(diào)用來實現(xiàn)。
緩沖區(qū)頁的引入是問題更加復雜。與每個緩沖區(qū)頁相關(guān)的緩沖區(qū)首部使內(nèi)核能夠了解每個獨立塊緩沖區(qū)的狀態(tài)。如果至少有一個緩沖區(qū)首部的PG_Dirty標志被置位，就應該設(shè)置相應緩沖區(qū)頁的PG_dirty標志。當內(nèi)核選擇要刷新的緩沖區(qū)時，它掃描相應的緩沖區(qū)首部，并只把臟塊的內(nèi)容有效的寫到磁盤。一旦內(nèi)核把緩沖區(qū)的所有臟頁刷新到磁盤，就把頁的PG_dirty標志清0。

2. pdflush內(nèi)核線程
    早期版本的Linux使用bdfllush內(nèi)核線程系統(tǒng)地掃描頁高速緩存以搜索要刷新的臟頁，并且使用另一個內(nèi)核線程kupdate來保證所有的頁不會“臟”太長時間。Linux 2.6用一組通用內(nèi)核線程pdflush替代上述兩個線程。
這些內(nèi)核線程結(jié)構(gòu)靈活，它們作用于兩個參數(shù)：一個指向線程要執(zhí)行的函數(shù)的指針和一個函數(shù)要用的參數(shù)。系統(tǒng)中pdflush內(nèi)核線程的數(shù)量是要動態(tài)調(diào)整的：pdflush線程太少時就創(chuàng)建，太多時就殺死。因為這些內(nèi)核線程所執(zhí)行的函數(shù)可以阻塞，所以創(chuàng)建多個而不是一個pdflush內(nèi)核線程可以改善系統(tǒng)性能。
根據(jù)下面的原則控制pdflush線程的產(chǎn)生和消亡：
必須有至少兩個，最多八個pdflush內(nèi)核線程
如果到最近的1s期間沒有空閑pdflush，就應該創(chuàng)建新的pdflush線程
如果最近一次pdflush變?yōu)榭臻e的時間超過了1s，就應該刪除一個pdflush線程
所有的pdflush內(nèi)核線程都有pdflush_work描述符，其數(shù)據(jù)結(jié)構(gòu)如下：

當系統(tǒng)沒有要刷新的臟頁時，pdflush線程會自動處于睡眠狀態(tài)，最后由pdflush_operation()函數(shù)來喚醒。那么在這個過程中pdflush內(nèi)核線程主要完成了哪些工作呢？其中一些工作與臟數(shù)據(jù)的刷新有關(guān)。尤其是pdflush通常執(zhí)行下面的回調(diào)函數(shù)之一：
    1. background_writeout(): 系統(tǒng)地掃描頁高速緩存以搜索要刷新的臟頁。
為了得到需要刷新的臟頁，就要徹底的搜索與在磁盤上有映像的索引節(jié)點相應的所有address_space對象（是一棵搜索樹）。由于頁高速緩存可能有大量的頁，如果用一個單獨的執(zhí)行流來掃描整個高速緩存，會令CPU和磁盤長時間繁忙，因此，Linux使用一種復雜的機制把對頁高速緩存的掃描劃分為幾個執(zhí)行流。當內(nèi)存不足或者用戶顯式的（用戶態(tài)進程發(fā)出sync()系統(tǒng)調(diào)用等）調(diào)用請求刷新操作時會執(zhí)行wakeup_bdflush()函數(shù)。wakeup_bdflush()函數(shù)會調(diào)用pdflush_operation()喚醒pdflush內(nèi)核線程，并委托它執(zhí)行回調(diào)函數(shù)background_writeout()。background_writeout()函數(shù)有效的從頁高速緩存中獲得指定數(shù)量的臟頁，并把它寫回磁盤。此外，執(zhí)行background_writeout()函數(shù)的pdflush內(nèi)核線程只有在滿足以下兩個條件下才能被喚醒：一是對頁高速緩存中的頁內(nèi)容進行了修改，二是引起臟頁部分增加到超過某個臟背景閾值。背景閾值通常設(shè)置為系統(tǒng)中所有頁的10%，不過可以通過修改文件/proc/sys/vm/dirty_background_ratio來調(diào)整該值。
    2. wb_kupdate():檢查頁高速緩存中是否有“臟”了很久時間的頁，避免當一些頁很久沒有被刷新時發(fā)生饑餓危險。
 內(nèi)核在初始化期間會建立wb_timer動態(tài)定時器，其的定時間距為dirty_writeback_centisecs文件中所規(guī)定的幾百分之一秒（通常是500分之一秒，不過可以通過修改/proc/sys/vm/dirty_writeback_centisecs文件調(diào)整該值）。定時器函數(shù)會調(diào)用pdflush_operation()函數(shù)，然后將wb_kupdate()函數(shù)的地址傳入。wb_kupdate()函數(shù)遍歷頁高速緩存搜索陳舊的臟索引節(jié)點，把已保持臟狀態(tài)時間超過30秒的頁都寫到磁盤，之后重置定時器。

PS:關(guān)于SSD的寫入放大問題

    現(xiàn)在固態(tài)硬盤正在越來越多地被作為服務(wù)器磁盤使用。之前在SSD(Solid State Drive)上設(shè)計并實現(xiàn)緩存系統(tǒng)用于存儲數(shù)據(jù)塊時遇到了一些問題，比如在磁盤寫滿后，如果老化掉一些最久未使用的數(shù)據(jù)塊后，繼續(xù)大量寫入新的數(shù)據(jù)，隨著時間的推移，寫入速度變得比剛開始時慢了許多。為了弄清楚為什么會出現(xiàn)這樣的情況，于是在網(wǎng)上搜索了一些關(guān)于SSD的資料，原來這種情況是由于SSD硬件設(shè)計本身決定的，最終映射到應用程序上該中現(xiàn)象稱為寫入放大現(xiàn)象(WA: Write amplification)，WA是閃存及SSD相關(guān)的一個極為重要的屬性，這個術(shù)語在2008年被Intel公司和SiliconSystems公司（于2009 年被西部數(shù)據(jù)收購）第一次提出并在公開稿件里使用。下面簡單講解一下為什么會出現(xiàn)這種情況以及是怎樣一個過程。
    SSD的設(shè)計完全不同于傳統(tǒng)的機械磁盤，其是一個完整的電子設(shè)備，沒有傳統(tǒng)機械盤的讀寫磁頭。因此，在讀寫數(shù)據(jù)的時候由于少了磁頭在磁道之間的尋道過程所以SSD能提供較高的IOPS性能。也正因為其少了磁頭的調(diào)度，所以SSD還能減少電量的使用，在數(shù)據(jù)中心中使用對企業(yè)來說是非常有益的。
    SSD與傳統(tǒng)磁盤相比其有了很大的性能優(yōu)勢，以及較多的優(yōu)點，但是事物總是有兩面性的，其也自身也存在一些問題，寫入在SSD中的數(shù)據(jù)是不可以直接更新的，只能通過扇區(qū)覆蓋重寫，在覆蓋重寫之前需要先擦除，而且擦除操作又是不能在扇區(qū)上做的，只能在磁盤的塊上來完成，擦除塊之前需要將原有的還有效的數(shù)據(jù)先讀出，然后在與新來的數(shù)據(jù)一起寫入，這些重復的操作不單會增加寫入的數(shù)據(jù)量 ，還會減少閃存的壽命，更吃光閃存的可用帶寬而間接影響隨機寫入性能。

寫入放大的解決辦法
    在實際操作中我們很難完全解決掉SSD寫入放大的問題，只能通過某些方法來更有效的減少放大的倍數(shù)。一個很簡單的辦法就是將一塊大的SSD硬盤只使用其的一部分容量，比如128GB你只是用64GB，那么最壞的情況就是寫入放大能減少約3倍。當然這種方法有點過于浪費資源了。另外還可以在寫數(shù)據(jù)時采用順序?qū)懭耄擲SD被順序?qū)懭霑r，其寫入放大一般為1，但某些因素會影響到該值。
    除了上面的方法外，現(xiàn)階段公認的比較好的方法是TRIM。TRIM位于操作系統(tǒng)層。操作系統(tǒng)使用TRIM命令來通知SSD某個page的數(shù)據(jù)不需要了，則可以回收。 支持TRIM的操作系統(tǒng)和以往的主要區(qū)別是刪除一個Page的操作不同。在磁盤時期，刪除一個page之后在文件系統(tǒng)的記錄信息里將該page的標志位設(shè)置為可用，但是并沒有將數(shù)據(jù)刪除。使用SSD且支持TRIM的操作系統(tǒng)，在刪除一個page時，會同時通知SSD這個page的數(shù)據(jù)不需要了，SSD內(nèi)部有一個空閑時刻的垃圾收集進程，在空閑時刻SSD會將一些空閑的數(shù)據(jù)集中到一起，然后一起Erase。這樣每次寫操作，就在已經(jīng)Erase好了的Page上寫入新的數(shù)據(jù)。

    雖然其存在寫入放大的問題，但是這并沒有讓我們拒絕使用它。用其來做緩存加速已在很多項目中得到使用，尤其是在數(shù)據(jù)庫緩存項目中，在這些項目中SSD高效的讀性能得到了充分的利用。隨著Facebook的開源項目Flash Cache的發(fā)布，以及Facebook內(nèi)部的大量使用，F(xiàn)lash Cache已經(jīng)成為了一個比較成熟的技術(shù)方案，這使得更多的公司選擇了SSD來做存儲或者緩存。