redis主從保證數據一致性
- 前言
在redis中為了保證redis的高可用，一般會搭建一種集群模式就是主從模式。
主從模式可以保證redis的高可用，那么redis是怎么保證主從服務器的數據一致性的，接下來我們淺談下redis主(master)從(slave)同步的原理。
- 初次全量同步（即從節點作為新節點，剛連上的時候）
當一個redis服務器初次向主服務器發送salveof命令時，redis從服務器會進行一次全量同步，同步的步驟如下圖所示：
- slave服務器向master發送psync命令（此時發送的是psync ? -1），告訴master我需要同步數據了。
- master接收到psync命令后會進行BGSAVE命令生成RDB文件快照。
- 生成完后，會將RDB文件發送給slave。
- slave接收到文件會載入RDB快照，並且將數據庫狀態變更為master在執行BGSAVE時的狀態一致。
- master會發送保存在緩沖區里的所有寫命令，告訴slave可以進行同步了
- slave執行這些寫命令。
3.命令傳播
slave已經同步過master了，那么如果后續master進行了寫操作，比如說一個簡單的set name redis，那么master執行過當前命令后，會將當前命令發送給slave執行一遍，達成數據一致性。
4.重新復制
當slave斷開重連之后會進行重新同步，重新同步分完全同步和部分同步
首先來看看部分同步大致的走向
- 當slave斷開重連后，會發送psync 命令給master。
- master收到psync后會返回+continue回復，表示slave可以執行部分同步了。
- master發送斷線后的寫命令給slave
- slave執行寫命令。
redis的持久化方式RDB和AOF的區別
一.RDB
原理是將redis在內存中的數據庫記錄定時dump到磁盤上的RDb持久化.
RDB 粒度比較大，如果save, shutdown, slave 之前crash(宕機)了，則中間的操作沒辦法恢復。
二.AOF持久化
原理是將redis的操作日志以追加的方式寫入文件.
粒度較小，crash之后，只有crash之前沒有來得及做日志的操作沒辦法恢復。
兩兩種區別就是： 一個是持續的用日志記錄寫操作，crash后利用日志恢復；一個是平時寫操作的時候不觸發寫，只有定時觸發或者手動提交save命令或者是關閉命令時才觸發備份操作。
兩者常用配置
redis持久化RDB和AOF
Redis 持久化:
提供了多種不同級別的持久化方式:一種是RDB,另一種是AOF.
RDB 持久化：
可以在指定的時間間隔內生成數據集的時間點快照（point-in-time snapshot）。
AOF 持久化：
記錄服務器執行的所有寫操作命令，並在服務器啟動時，通過重新執行這些命令來還原數據集。 AOF 文件中的命令全部以 Redis 協議的格式來保存，新命令會被追加到文件的末尾。 Redis 還可以在后台對 AOF 文件進行重寫（rewrite），使得 AOF 文件的體積不會超出保存數據集狀態所需的實際大小。Redis 還可以同時使用 AOF 持久化和 RDB 持久化。 在這種情況下， 當 Redis 重啟時， 它會優先使用 AOF 文件來還原數據集， 因為 AOF 文件保存的數據集通常比 RDB 文件所保存的數據集更完整。你甚至可以關閉持久化功能，讓數據只在服務器運行時存在。
AOF 重寫:
因為 AOF 的運作方式是不斷地將命令追加到文件的末尾， 所以隨着寫入命令的不斷增加， AOF 文件的體積也會變得越來越大。舉個例子， 如果你對一個計數器調用了 100 次 INCR ， 那么僅僅是為了保存這個計數器的當前值， AOF 文件就需要使用 100 條記錄（entry）。然而在實際上， 只使用一條 SET 命令已經足以保存計數器的當前值了， 其余 99 條記錄實際上都是多余的。為了處理這種情況， Redis 支持一種有趣的特性： 可以在不打斷服務客戶端的情況下， 對 AOF 文件進行重建（rebuild）。執行 BGREWRITEAOF 命令， Redis 將生成一個新的 AOF 文件， 這個文件包含重建當前數據集所需的最少命令。
RDB 快照:
在默認情況下， Redis 將數據庫快照保存在名字為 dump.rdb 的二進制文件中。你可以對 Redis 進行設置， 讓它在“ N 秒內數據集至少有 M 個改動”這一條件被滿足時， 自動保存一次數據集。你也可以通過調用 SAVE 或者 BGSAVE ， 手動讓 Redis 進行數據集保存操作。比如說， 以下設置會讓 Redis 在滿足“ 60 秒內有至少有 1000 個鍵被改動”這一條件時， 自動保存一次數據集：
save 60 1000
這種持久化方式被稱為快照（snapshot）。
快照的運作方式:
當 Redis 需要保存 dump.rdb 文件時， 服務器執行以下操作：
Redis 調用 fork() ，同時擁有父進程和子進程。
子進程將數據集寫入到一個臨時 RDB 文件中。
當子進程完成對新 RDB 文件的寫入時，Redis 用新 RDB 文件替換原來的 RDB 文件，並刪除舊的 RDB 文件。
這種工作方式使得 Redis 可以從寫時復制（copy-on-write）機制中獲益。
只進行追加操作的文件（append-only file，AOF）
快照功能並不是非常耐久（durable）： 如果 Redis 因為某些原因而造成故障停機， 那么服務器將丟失最近寫入、且仍未保存到快照中的那些數據。盡管對於某些程序來說， 數據的耐久性並不是最重要的考慮因素， 但是對於那些追求完全耐久能力（full durability）的程序來說， 快照功能就不太適用了。
從 1.1 版本開始， Redis 增加了一種完全耐久的持久化方式： AOF 持久化。
你可以通過修改配置文件來打開 AOF 功能：
appendonly yes
從現在開始， 每當 Redis 執行一個改變數據集的命令時（比如 SET）， 這個命令就會被追加到 AOF 文件的末尾。
這樣的話， 當 Redis 重新啟時， 程序就可以通過重新執行 AOF 文件中的命令來達到重建數據集的目的。
RDB 的優點:
RDB 是一個非常緊湊（compact）的文件，它保存了 Redis 在某個時間點上的數據集。 這種文件非常適合用於進行備份： 比如說，你可以在最近的 24 小時內，每小時備份一次 RDB 文件，並且在每個月的每一天，也備份一個 RDB 文件。 這樣的話，即使遇上問題，也可以隨時將數據集還原到不同的版本。RDB 非常適用於災難恢復（disaster recovery）：它只有一個文件，並且內容都非常緊湊，可以（在加密后）將它傳送到別的數據中心，或者亞馬遜 S3 中。RDB 可以最大化 Redis 的性能：父進程在保存 RDB 文件時唯一要做的就是 fork 出一個子進程，然后這個子進程就會處理接下來的所有保存工作，父進程無須執行任何磁盤 I/O 操作。RDB 在恢復大數據集時的速度比 AOF 的恢復速度要快。
RDB 的缺點:
如果你需要盡量避免在服務器故障時丟失數據，那么 RDB 不適合你。 雖然 Redis 允許你設置不同的保存點（save point）來控制保存 RDB 文件的頻率， 但是， 因為RDB 文件需要保存整個數據集的狀態， 所以它並不是一個輕松的操作。 因此你可能會至少 5 分鍾才保存一次 RDB 文件。 在這種情況下， 一旦發生故障停機， 你就可能會丟失好幾分鍾的數據。每次保存 RDB 的時候，Redis 都要 fork() 出一個子進程，並由子進程來進行實際的持久化工作。 在數據集比較龐大時， fork() 可能會非常耗時，造成服務器在某某毫秒內停止處理客戶端； 如果數據集非常巨大，並且 CPU 時間非常緊張的話，那么這種停止時間甚至可能會長達整整一秒。 雖然 AOF 重寫也需要進行 fork() ，但無論 AOF 重寫的執行間隔有多長，數據的耐久性都不會有任何損失。
AOF 的優點:
使用 AOF 持久化會讓 Redis 變得非常耐久（much more durable）：你可以設置不同的 fsync 策略，比如無 fsync ，每秒鍾一次 fsync ，或者每次執行寫入命令時 fsync 。AOF 的默認策略為每秒鍾 fsync 一次，在這種配置下，Redis 仍然可以保持良好的性能，並且就算發生故障停機，也最多只會丟失一秒鍾的數據（ fsync 會在后台線程執行，所以主線程可以繼續努力地處理命令請求）。AOF 文件是一個只進行追加操作的日志文件（append only log）， 因此對 AOF 文件的寫入不需要進行 seek ， 即使日志因為某些原因而包含了未寫入完整的命令（比如寫入時磁盤已滿，寫入中途停機，等等）， redis-check-aof 工具也可以輕易地修復這種問題。
Redis 可以在 AOF 文件體積變得過大時，自動地在后台對 AOF 進行重寫： 重寫后的新 AOF 文件包含了恢復當前數據集所需的最小命令集合。 整個重寫操作是絕對安全的，因為 Redis 在創建新 AOF 文件的過程中，會繼續將命令追加到現有的 AOF 文件里面，即使重寫過程中發生停機，現有的 AOF 文件也不會丟失。 而一旦新 AOF 文件創建完畢，Redis 就會從舊 AOF 文件切換到新 AOF 文件，並開始對新 AOF 文件進行追加操作。AOF 文件有序地保存了對數據庫執行的所有寫入操作， 這些寫入操作以 Redis 協議的格式保存， 因此 AOF 文件的內容非常容易被人讀懂， 對文件進行分析（parse）也很輕松。 導出（export） AOF 文件也非常簡單： 舉個例子， 如果你不小心執行了 FLUSHALL 命令， 但只要 AOF 文件未被重寫， 那么只要停止服務器， 移除 AOF 文件末尾的 FLUSHALL 命令， 並重啟 Redis ， 就可以將數據集恢復到 FLUSHALL 執行之前的狀態。
AOF 的缺點:
對於相同的數據集來說，AOF 文件的體積通常要大於 RDB 文件的體積。根據所使用的 fsync 策略，AOF 的速度可能會慢於 RDB 。 在一般情況下， 每秒 fsync 的性能依然非常高， 而關閉 fsync 可以讓 AOF 的速度和 RDB 一樣快， 即使在高負荷之下也是如此。 不過在處理巨大的寫入載入時，RDB 可以提供更有保證的最大延遲時間（latency）。AOF 在過去曾經發生過這樣的 bug ： 因為個別命令的原因，導致 AOF 文件在重新載入時，無法將數據集恢復成保存時的原樣。 （舉個例子，阻塞命令 BRPOPLPUSH 就曾經引起過這樣的 bug 。） 測試套件里為這種情況添加了測試： 它們會自動生成隨機的、復雜的數據集， 並通過重新載入這些數據來確保一切正常。 雖然這種 bug 在 AOF 文件中並不常見， 但是對比來說， RDB 幾乎是不可能出現這種 bug 的。
AOF 有多耐久？
你可以配置 Redis 多久才將數據 fsync 到磁盤一次。
有三個選項：
每次有新命令追加到 AOF 文件時就執行一次 fsync ：非常慢，也非常安全。
每秒 fsync 一次：足夠快（和使用 RDB 持久化差不多），並且在故障時只會丟失 1 秒鍾的數據。
從不 fsync ：將數據交給操作系統來處理。更快，也更不安全的選擇。
推薦（並且也是默認）的措施為每秒 fsync 一次， 這種 fsync 策略可以兼顧速度和安全性。
總是 fsync 的策略在實際使用中非常慢， 即使在 Redis 2.0 對相關的程序進行了改進之后仍是如此 —— 頻繁調用 fsync 注定了這種策略不可能快得起來。
如果 AOF 文件出錯了，怎么辦？
服務器可能在程序正在對 AOF 文件進行寫入時停機， 如果停機造成了 AOF 文件出錯（corrupt）， 那么 Redis 在重啟時會拒絕載入這個 AOF 文件， 從而確保數據的一致性不會被破壞。
當發生這種情況時， 可以用以下方法來修復出錯的 AOF 文件：
為現有的 AOF 文件創建一個備份。
使用 Redis 附帶的 redis-check-aof 程序，對原來的 AOF 文件進行修復。
$ redis-check-aof --fix
（可選）使用 diff -u 對比修復后的 AOF 文件和原始 AOF 文件的備份，查看兩個文件之間的不同之處。
重啟 Redis 服務器，等待服務器載入修復后的 AOF 文件，並進行數據恢復。
AOF 的運作方式
AOF 重寫和 RDB 創建快照一樣，都巧妙地利用了寫時復制機制。
以下是 AOF 重寫的執行步驟:
Redis 執行 fork() ，現在同時擁有父進程和子進程。
子進程開始將新 AOF 文件的內容寫入到臨時文件。對於所有新執行的寫入命令，父進程一邊將它們累積到一個內存緩存中，一邊將這些改動追加到現有 AOF 文件的末尾： 這樣即使在重寫的中途發生停機，現有的 AOF 文件也還是安全的。當子進程完成重寫工作時，它給父進程發送一個信號，父進程在接收到信號之后，將內存緩存中的所有數據追加到新 AOF 文件的末尾。現在 Redis 原子地用新文件替換舊文件，之后所有命令都會直接追加到新 AOF 文件的末尾。
為最新的 dump.rdb 文件創建一個備份。
將備份放到一個安全的地方。
執行以下兩條命令：
redis-cli> CONFIG SET appendonly yes
redis-cli> CONFIG SET save ""
確保命令執行之后，數據庫的鍵的數量沒有改變。
確保寫命令會被正確地追加到 AOF 文件的末尾。
步驟 3 執行的第一條命令開啟了 AOF 功能： Redis 會阻塞直到初始 AOF 文件創建完成為止， 之后 Redis 會繼續處理命令請求， 並開始將寫入命令追加到 AOF 文件末尾。
步驟 3 執行的第二條命令用於關閉 RDB 功能。 這一步是可選的， 如果你願意的話， 也可以同時使用 RDB 和 AOF 這兩種持久化功能。
別忘了在 redis.conf 中打開 AOF 功能！ 否則的話， 服務器重啟之后， 之前通過 CONFIG SET 設置的配置就會被遺忘， 程序會按原來的配置來啟動服務器。
當 Redis 啟動時， 如果 RDB 持久化和 AOF 持久化都被打開了， 那么程序會優先使用 AOF 文件來恢復數據集， 因為 AOF 文件所保存的數據通常是最完整的。
備份 Redis 數據:
Redis 對於數據備份是非常友好的， 因為你可以在服務器運行的時候對 RDB 文件進行復制： RDB 文件一旦被創建， 就不會進行任何修改。 當服務器要創建一個新的 RDB 文件時， 它先將文件的內容保存在一個臨時文件里面， 當臨時文件寫入完畢時， 程序才使用 原子地用臨時文件替換原來的 RDB 文件。這也就是說， 無論何時， 復制 RDB 文件都是絕對安全的。