Python操作 RabbitMQ、Redis、Memcache、SQLAlchemy

本文轉載自查看原文 2018-03-01 23:47 949 數據庫相關

Memcached

Memcached 是一個高性能的分布式內存對象緩存系統，用於動態Web應用以減輕數據庫負載。它通過在內存中緩存數據和對象來減少讀取數據庫的次數，從而提高動態、數據庫驅動網站的速度。Memcached基於一個存儲鍵/值對的hashmap。其守護進程（daemon ）是用C寫的，但是客戶端可以用任何語言來編寫，並通過memcached協議與守護進程通信。

Memcached安裝和基本使用

Memcached安裝：

 
                  wget http: 
                  / 
                  / 
                  memcached.org 
                  / 
                  latest 
                 
 
                  tar  
                  - 
                  zxvf memcached 
                  - 
                  1.x 
                  .x.tar.gz 
                 
 
                  cd memcached 
                  - 
                  1.x 
                  .x 
                 
 
                  . 
                  / 
                  configure && make && make test && sudo make install 
                 

                     
                 
 
                  PS：依賴libevent 
                 
 
                          
                  yum install libevent 
                  - 
                  devel 
                 
 
                          
                  apt 
                  - 
                  get install libevent 
                  - 
                  dev 
                 

windows系統安裝方法：http://blog.csdn.net/l1028386804/article/details/61417166

啟動Memcached

 
                  memcached  
                  - 
                  d  
                  - 
                  m  
                  10    
                  - 
                  u root  
                  - 
                  l  
                  10.211 
                  . 
                  55.4 
                  - 
                  p  
                  12000 
                  - 
                  c  
                  256 
                  - 
                  P  
                  / 
                  tmp 
                  / 
                  memcached.pid 
                 

                     
                 
 
                  參數說明: 
                 
 
                       
                  - 
                  d 是啟動一個守護進程 
                 
 
                       
                  - 
                  m 是分配給Memcache使用的內存數量，單位是MB 
                 
 
                       
                  - 
                  u 是運行Memcache的用戶 
                 
 
                       
                  - 
                  l 是監聽的服務器IP地址 
                 
 
                       
                  - 
                  p 是設置Memcache監聽的端口,最好是 
                  1024 
                  以上的端口 
                 
 
                       
                  - 
                  c 選項是最大運行的並發連接數，默認是 
                  1024 
                  ，按照你服務器的負載量來設定 
                 
 
                       
                  - 
                  P 是設置保存Memcache的pid文件 
                 

Memcached命令

 
                  存儲命令:  
                  set 
                  / 
                  add 
                  / 
                  replace 
                  / 
                  append 
                  / 
                  prepend 
                  / 
                  cas  
                 
 
                  獲取命令: get 
                  / 
                  gets 
                 
 
                  其他命令: delete 
                  / 
                  stats.. 
                 

Python操作Memcached

安裝API

1 2	`python操作Memcached使用Python` `-` `memcached模塊` `下載安裝：https:` `/` `/` `pypi.python.org` `/` `pypi` `/` `python` `-` `memcached 或者 pip install python-memcached`

1、第一次操作

 
                  import 
                  memcache 
                 

                     
                 
 
                  mc  
                  = 
                  memcache.Client([ 
                  '10.211.55.4:12000' 
                  ], debug 
                  = 
                  True 
                  ) 
                 
 
                  mc. 
                  set 
                  ( 
                  "foo" 
                  ,  
                  "bar" 
                  ) 
                 
 
                  ret  
                  = 
                  mc.get( 
                  'foo' 
                  ) 
                 
 
                  print 
                  ret 
                 

Ps：debug = True 表示運行出現錯誤時，現實錯誤信息，上線后移除該參數。

2、天生支持集群

python-memcached模塊原生支持集群操作，其原理是在內存維護一個主機列表，且集群中主機的權重值和主機在列表中重復出現的次數成正比

 
                  主機    權重 
                 
                  1.1 
                  . 
                  1.1   
                  1 
                 
                  1.1 
                  . 
                  1.2   
                  2 
                 
                  1.1 
                  . 
                  1.3   
                  1 
                 
                  那么在內存中主機列表為： 
                 
                  host_list  
                  = 
                  [ 
                  "1.1.1.1" 
                  ,  
                  "1.1.1.2" 
                  ,  
                  "1.1.1.2" 
                  ,  
                  "1.1.1.3" 
                  , ]

如果用戶根據如果要在內存中創建一個鍵值對（如：k1 = "v1"），那么要執行一下步驟：

根據算法將 k1 轉換成一個數字
將數字和主機列表長度求余數，得到一個值 N（ 0 <= N < 列表長度）
在主機列表中根據第2步得到的值為索引獲取主機，例如：host_list[N]
連接將第3步中獲取的主機，將 k1 = "v1" 放置在該服務器的內存中

代碼實現如下：

 
                  mc  
                  = 
                  memcache.Client([( 
                  '1.1.1.1:12000' 
                  ,  
                  1 
                  ), ( 
                  '1.1.1.2:12000' 
                  ,  
                  2 
                  ), ( 
                  '1.1.1.3:12000' 
                  ,  
                  1 
                  )], debug 
                  = 
                  True 
                  ) 
                 

                     
                 
 
                  mc. 
                  set 
                  ( 
                  'k1' 
                  ,  
                  'v1' 
                  ) 
                 

3、add
添加一條鍵值對，如果已經存在的 key，重復執行add操作異常

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  memcache 
                 
                  mc  
                  = 
                  memcache.Client([ 
                  '10.211.55.4:12000' 
                  ], debug 
                  = 
                  True 
                  ) 
                 
                  mc.add( 
                  'k1' 
                  ,  
                  'v1' 
                  ) 
                 
                  # mc.add('k1', 'v2') # 報錯，對已經存在的key重復添加，失敗！！！

4、replace
replace 修改某個key的值，如果key不存在，則異常

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  memcache 
                 
                  mc  
                  = 
                  memcache.Client([ 
                  '10.211.55.4:12000' 
                  ], debug 
                  = 
                  True 
                  ) 
                 
                  # 如果memcache中存在kkkk，則替換成功，否則一場 
                 
                  mc.replace( 
                  'kkkk' 
                  , 
                  '999' 
                  )

5、set 和 set_multi

set 設置一個鍵值對，如果key不存在，則創建，如果key存在，則修改
set_multi 設置多個鍵值對，如果key不存在，則創建，如果key存在，則修改

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  memcache 
                 
                  mc  
                  = 
                  memcache.Client([ 
                  '10.211.55.4:12000' 
                  ], debug 
                  = 
                  True 
                  ) 
                 
                  mc. 
                  set 
                  ( 
                  'key0' 
                  ,  
                  'wupeiqi' 
                  ) 
                 
                  mc.set_multi({ 
                  'key1' 
                  :  
                  'val1' 
                  ,  
                  'key2' 
                  :  
                  'val2' 
                  })

6、delete 和 delete_multi

delete 在Memcached中刪除指定的一個鍵值對
delete_multi 在Memcached中刪除指定的多個鍵值對

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  memcache 
                 
                  mc  
                  = 
                  memcache.Client([ 
                  '10.211.55.4:12000' 
                  ], debug 
                  = 
                  True 
                  ) 
                 
                  mc.delete( 
                  'key0' 
                  ) 
                 
                  mc.delete_multi([ 
                  'key1' 
                  ,  
                  'key2' 
                  ])

7、get 和 get_multi

get 獲取一個鍵值對
get_multi 獲取多一個鍵值對

 
                  #!/usr/bin/env python 
                 
 
                  # -*- coding:utf-8 -*- 
                 
 
                  import 
                  memcache 
                 

                     
                 
 
                  mc  
                  = 
                  memcache.Client([ 
                  '10.211.55.4:12000' 
                  ], debug 
                  = 
                  True 
                  ) 
                 

                     
                 
 
                  val  
                  = 
                  mc.get( 
                  'key0' 
                  ) 
                 
 
                  item_dict  
                  = 
                  mc.get_multi([ 
                  "key1" 
                  ,  
                  "key2" 
                  ,  
                  "key3" 
                  ]) 
                 

8、append 和 prepend

append 修改指定key的值，在該值后面追加內容
prepend 修改指定key的值，在該值前面插入內容

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  memcache 
                 
                  mc  
                  = 
                  memcache.Client([ 
                  '10.211.55.4:12000' 
                  ], debug 
                  = 
                  True 
                  ) 
                 
                  # k1 = "v1" 
                 
                  mc.append( 
                  'k1' 
                  ,  
                  'after' 
                  ) 
                 
                  # k1 = "v1after" 
                 
                  mc.prepend( 
                  'k1' 
                  ,  
                  'before' 
                  ) 
                 
                  # k1 = "beforev1after"

9、decr 和 incr　　

incr 自增，將Memcached中的某一個值增加 N （ N默認為1 ）
decr 自減，將Memcached中的某一個值減少 N （ N默認為1 ）

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  memcache 
                 
                  mc  
                  = 
                  memcache.Client([ 
                  '10.211.55.4:12000' 
                  ], debug 
                  = 
                  True 
                  ) 
                 
                  mc. 
                  set 
                  ( 
                  'k1' 
                  ,  
                  '777' 
                  ) 
                 
                  mc.incr( 
                  'k1' 
                  ) 
                 
                  # k1 = 778 
                 
                  mc.incr( 
                  'k1' 
                  ,  
                  10 
                  ) 
                 
                  # k1 = 788 
                 
                  mc.decr( 
                  'k1' 
                  ) 
                 
                  # k1 = 787 
                 
                  mc.decr( 
                  'k1' 
                  ,  
                  10 
                  ) 
                 
                  # k1 = 777

10、gets 和 cas

如商城商品剩余個數，假設改值保存在memcache中，product_count = 900
A用戶刷新頁面從memcache中讀取到product_count = 900
B用戶刷新頁面從memcache中讀取到product_count = 900

如果A、B用戶均購買商品

A用戶修改商品剩余個數 product_count＝899
B用戶修改商品剩余個數 product_count＝899

如此一來緩存內的數據便不在正確，兩個用戶購買商品后，商品剩余還是 899
如果使用python的set和get來操作以上過程，那么程序就會如上述所示情況！

如果想要避免此情況的發生，只要使用 gets 和 cas 即可，如：

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  memcache 
                 
                  mc  
                  = 
                  memcache.Client([ 
                  '10.211.55.4:12000' 
                  ], debug 
                  = 
                  True 
                  , cache_cas 
                  = 
                  True 
                  ) 
                 
                  v  
                  = 
                  mc.gets( 
                  'product_count' 
                  ) 
                 
                  # ... 
                 
                  # 如果有人在gets之后和cas之前修改了product_count，那么，下面的設置將會執行失敗，剖出異常，從而避免非正常數據的產生 
                 
                  mc.cas( 
                  'product_count' 
                  ,  
                  "899" 
                  )

Ps：本質上每次執行gets時，會從memcache中獲取一個自增的數字，通過cas去修改gets的值時，會攜帶之前獲取的自增值和memcache中的自增值進行比較，如果相等，則可以提交，如果不想等，那表示在gets和cas執行之間，又有其他人執行了gets（獲取了緩沖的指定值），如此一來有可能出現非正常數據，則不允許修改。

Memcached 真的過時了嗎？

Redis

redis是一個key-value存儲系統。和Memcached類似，它支持存儲的value類型相對更多，包括string(字符串)、list(鏈表)、set(集合)、zset(sorted set --有序集合)和hash（哈希類型）。這些數據類型都支持push/pop、add/remove及取交集並集和差集及更豐富的操作，而且這些操作都是原子性的。在此基礎上，redis支持各種不同方式的排序。與memcached一樣，為了保證效率，數據都是緩存在內存中。區別的是redis會周期性的把更新的數據寫入磁盤或者把修改操作寫入追加的記錄文件，並且在此基礎上實現了master-slave(主從)同步。

1. 使用Redis有哪些好處？

(1) 速度快，因為數據存在內存中，類似於HashMap，HashMap的優勢就是查找和操作的時間復雜度都是O(1)

(2) 支持豐富數據類型，支持string，list，set，sorted set，hash

(3) 支持事務，操作都是原子性，所謂的原子性就是對數據的更改要么全部執行，要么全部不執行

(4) 豐富的特性：可用於緩存，消息，按key設置過期時間，過期后將會自動刪除


2. redis相比memcached有哪些優勢？

(1) memcached所有的值均是簡單的字符串，redis作為其替代者，支持更為豐富的數據類型

(2) redis的速度比memcached快很多

(3) redis可以持久化其數據


3. redis常見性能問題和解決方案：

(1) Master最好不要做任何持久化工作，如RDB內存快照和AOF日志文件

(2) 如果數據比較重要，某個Slave開啟AOF備份數據，策略設置為每秒同步一次

(3) 為了主從復制的速度和連接的穩定性，Master和Slave最好在同一個局域網內

(4) 盡量避免在壓力很大的主庫上增加從庫

(5) 主從復制不要用圖狀結構，用單向鏈表結構更為穩定，即：Master <- Slave1 <- Slave2 <- Slave3...

這樣的結構方便解決單點故障問題，實現Slave對Master的替換。如果Master掛了，可以立刻啟用Slave1做Master，其他不變。



 

4. MySQL里有2000w數據，redis中只存20w的數據，如何保證redis中的數據都是熱點數據

 相關知識：redis 內存數據集大小上升到一定大小的時候，就會施行數據淘汰策略。redis 提供 6種數據淘汰策略：

voltile-lru：從已設置過期時間的數據集（server.db[i].expires）中挑選最近最少使用的數據淘汰

volatile-ttl：從已設置過期時間的數據集（server.db[i].expires）中挑選將要過期的數據淘汰

volatile-random：從已設置過期時間的數據集（server.db[i].expires）中任意選擇數據淘汰

allkeys-lru：從數據集（server.db[i].dict）中挑選最近最少使用的數據淘汰

allkeys-random：從數據集（server.db[i].dict）中任意選擇數據淘汰

no-enviction（驅逐）：禁止驅逐數據

 

5. Memcache與Redis的區別都有哪些？

1)、存儲方式

Memecache把數據全部存在內存之中，斷電后會掛掉，數據不能超過內存大小。

Redis有部份存在硬盤上，這樣能保證數據的持久性。

2)、數據支持類型

Memcache對數據類型支持相對簡單。

Redis有復雜的數據類型。


3），value大小

redis最大可以達到1GB，而memcache只有1MB



6. Redis 常見的性能問題都有哪些？如何解決？

 

1).Master寫內存快照，save命令調度rdbSave函數，會阻塞主線程的工作，當快照比較大時對性能影響是非常大的，會間斷性暫停服務，所以Master最好不要寫內存快照。


2).Master AOF持久化，如果不重寫AOF文件，這個持久化方式對性能的影響是最小的，但是AOF文件會不斷增大，AOF文件過大會影響Master重啟的恢復速度。Master最好不要做任何持久化工作，包括內存快照和AOF日志文件，特別是不要啟用內存快照做持久化,如果數據比較關鍵，某個Slave開啟AOF備份數據，策略為每秒同步一次。

 
3).Master調用BGREWRITEAOF重寫AOF文件，AOF在重寫的時候會占大量的CPU和內存資源，導致服務load過高，出現短暫服務暫停現象。

4). Redis主從復制的性能問題，為了主從復制的速度和連接的穩定性，Slave和Master最好在同一個局域網內




7, redis 最適合的場景


Redis最適合所有數據in-momory的場景，雖然Redis也提供持久化功能，但實際更多的是一個disk-backed的功能，跟傳統意義上的持久化有比較大的差別，那么可能大家就會有疑問，似乎Redis更像一個加強版的Memcached，那么何時使用Memcached,何時使用Redis呢?

       如果簡單地比較Redis與Memcached的區別，大多數都會得到以下觀點：

     1 、Redis不僅僅支持簡單的k/v類型的數據，同時還提供list，set，zset，hash等數據結構的存儲。
     2 、Redis支持數據的備份，即master-slave模式的數據備份。
     3 、Redis支持數據的持久化，可以將內存中的數據保持在磁盤中，重啟的時候可以再次加載進行使用。

（1）、會話緩存（Session Cache）

最常用的一種使用Redis的情景是會話緩存（session cache）。用Redis緩存會話比其他存儲（如Memcached）的優勢在於：Redis提供持久化。當維護一個不是嚴格要求一致性的緩存時，如果用戶的購物車信息全部丟失，大部分人都會不高興的，現在，他們還會這樣嗎？

幸運的是，隨着 Redis 這些年的改進，很容易找到怎么恰當的使用Redis來緩存會話的文檔。甚至廣為人知的商業平台Magento也提供Redis的插件。

（2）、全頁緩存（FPC）

除基本的會話token之外，Redis還提供很簡便的FPC平台。回到一致性問題，即使重啟了Redis實例，因為有磁盤的持久化，用戶也不會看到頁面加載速度的下降，這是一個極大改進，類似PHP本地FPC。

再次以Magento為例，Magento提供一個插件來使用Redis作為全頁緩存后端。

此外，對WordPress的用戶來說，Pantheon有一個非常好的插件  wp-redis，這個插件能幫助你以最快速度加載你曾瀏覽過的頁面。

（3）、隊列

Reids在內存存儲引擎領域的一大優點是提供 list 和 set 操作，這使得Redis能作為一個很好的消息隊列平台來使用。Redis作為隊列使用的操作，就類似於本地程序語言（如Python）對 list 的 push/pop 操作。

如果你快速的在Google中搜索“Redis queues”，你馬上就能找到大量的開源項目，這些項目的目的就是利用Redis創建非常好的后端工具，以滿足各種隊列需求。例如，Celery有一個后台就是使用Redis作為broker，你可以從這里去查看。

（4），排行榜/計數器

Redis在內存中對數字進行遞增或遞減的操作實現的非常好。集合（Set）和有序集合（Sorted Set）也使得我們在執行這些操作的時候變的非常簡單，Redis只是正好提供了這兩種數據結構。所以，我們要從排序集合中獲取到排名最靠前的10個用戶–我們稱之為“user_scores”，我們只需要像下面一樣執行即可：

當然，這是假定你是根據你用戶的分數做遞增的排序。如果你想返回用戶及用戶的分數，你需要這樣執行：

ZRANGE user_scores 0 10 WITHSCORES

Agora Games就是一個很好的例子，用Ruby實現的，它的排行榜就是使用Redis來存儲數據的，你可以在這里看到。

（5）、發布/訂閱

最后（但肯定不是最不重要的）是Redis的發布/訂閱功能。發布/訂閱的使用場景確實非常多。我已看見人們在社交網絡連接中使用，還可作為基於發布/訂閱的腳本觸發器，甚至用Redis的發布/訂閱功能來建立聊天系統！（不，這是真的，你可以去核實）。

Redis提供的所有特性中，我感覺這個是喜歡的人最少的一個，雖然它為用戶提供如果此多功能。

View Code

一、Redis安裝和基本使用

 
                  wget http: 
                  / 
                  / 
                  download.redis.io 
                  / 
                  releases 
                  / 
                  redis 
                  - 
                  3.0 
                  . 
                  6.tar 
                  .gz 
                 
 
                  tar xzf redis 
                  - 
                  3.0 
                  . 
                  6.tar 
                  .gz 
                 
 
                  cd redis 
                  - 
                  3.0 
                  . 
                  6 
                 
 
                  make 
                 

啟動服務端

1	`src` `/` `redis` `-` `server`

啟動客戶端

 
                  src 
                  / 
                  redis 
                  - 
                  cli 
                 
                  redis>  
                  set 
                  foo bar 
                 
                  OK 
                 
                  redis> get foo 
                 
                  "bar"

二、Python操作Redis

 
                  sudo pip install redis 
                 
                  or 
                 
                  sudo easy_install redis 
                 
                  or 
                 
                  源碼安裝 
                 
                  詳見：https: 
                  / 
                  / 
                  github.com 
                  / 
                  WoLpH 
                  / 
                  redis 
                  - 
                  py

API使用

redis-py 的API的使用可以分類為：

連接方式
連接池
操作
- String 操作
- Hash 操作
- List 操作
- Set 操作
- Sort Set 操作
管道
發布訂閱

1、操作模式

redis-py提供兩個類Redis和StrictRedis用於實現Redis的命令，StrictRedis用於實現大部分官方的命令，並使用官方的語法和命令，Redis是StrictRedis的子類，用於向后兼容舊版本的redis-py。

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  redis 
                 
                  r  
                  = 
                  redis.Redis(host 
                  = 
                  '10.211.55.4' 
                  , port 
                  = 
                  6379 
                  ) 
                 
                  r. 
                  set 
                  ( 
                  'foo' 
                  ,  
                  'Bar' 
                  ) 
                 
                  print 
                  r.get( 
                  'foo' 
                  )

2、連接池

redis-py使用connection pool來管理對一個redis server的所有連接，避免每次建立、釋放連接的開銷。默認，每個Redis實例都會維護一個自己的連接池。可以直接建立一個連接池，然后作為參數Redis，這樣就可以實現多個Redis實例共享一個連接池。

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  redis 
                 
                  pool  
                  = 
                  redis.ConnectionPool(host 
                  = 
                  '10.211.55.4' 
                  , port 
                  = 
                  6379 
                  ) 
                 
                  r  
                  = 
                  redis.Redis(connection_pool 
                  = 
                  pool) 
                 
                  r. 
                  set 
                  ( 
                  'foo' 
                  ,  
                  'Bar' 
                  ) 
                 
                  print 
                  r.get( 
                  'foo' 
                  )

舉例

import redis
POOL = redis.ConnectionPool(host='10.0.0.200',port=6379)

pool.py

from django.shortcuts import render,HttpResponse
import redis
from app01.pool import POOL
# Create your views here.
def index(request):
    pool = redis.Redis(connection_pool=POOL)  #連接redis
    return HttpResponse('ok') 

def home(request):
    pool = redis.Redis(connection_pool=POOL)
    return HttpResponse('ok')

views.py

3、Django-redis組件

安裝：pip install django-redis

配置文件

CACHES = {
    "default": {
        "BACKEND": "django_redis.cache.RedisCache",
        "LOCATION": "redis://10.0.0.200:6379",
        "OPTIONS": {
            "CLIENT_CLASS": "django_redis.client.DefaultClient",
            #"PASSWORD": "asdfasdf",
        }
    }
}

settings.py

使用：

#利用django-redis組件進行連接
from django.core.cache import caches
import os
import django_redis
os.environ['DJANGO_SETTINGS_MODULE'] = 'redis之集合練習.settings'

conn = django_redis.get_redis_connection()
conn.set('b','666')

4、字符串（Srting）操作

String操作，redis中的String在在內存中按照一個name對應一個value來存儲。如圖：

set(name, value, ex=None, px=None, nx=False, xx=False)

?

1

2

3

4

5

6

在Redis中設置值，默認，不存在則創建，存在則修改

參數：

      ex，過期時間（秒）

      px，過期時間（毫秒）

      nx，如果設置為True，則只有name不存在時，當前set操作才執行

      xx，如果設置為True，則只有name存在時，崗前set操作才執行

setnx(name, value)

?

1

設置值，只有name不存在時，執行設置操作（添加）

setex(name, value, time)

?

1

2

3

# 設置值

# 參數：

     # time，過期時間（數字秒或 timedelta對象）

psetex(name, time_ms, value)

?

1

2

3

# 設置值

# 參數：

     # time_ms，過期時間（數字毫秒或 timedelta對象）

mset(*args, **kwargs)

?

1

2

3

4

5

批量設置值

如：

     mset(k1= 'v1' , k2= 'v2' )

     或

     mset({ 'k1' : 'v1' , 'k2' : 'v2' })

get(name)

?

1

獲取值

mget(keys, *args)

?

1

2

3

4

5

批量獲取

如：

     mget( 'ylr' , 'wupeiqi' )

     或

     r.mget([ 'ylr' , 'wupeiqi' ])

getset(name, value)

?

1

設置新值並獲取原來的值

getrange(key, start, end)

?

1

2

3

4

5

6

# 獲取子序列（根據字節獲取，非字符）

# 參數：

     # name，Redis 的 name

     # start，起始位置（字節）

     # end，結束位置（字節）

# 如： "武沛齊" ，0-3表示 "武"

setrange(name, offset, value)

?

1

2

3

4

# 修改字符串內容，從指定字符串索引開始向后替換（新值太長時，則向后添加）

# 參數：

     # offset，字符串的索引，字節（一個漢字三個字節）

     # value，要設置的值

setbit(name, offset, value)

?

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

# 對name對應值的二進制表示的位進行操作

# 參數：

     # name，redis的name

     # offset，位的索引（將值變換成二進制后再進行索引）

     # value，值只能是 1 或 0

# 注：如果在Redis中有一個對應： n1 = "foo"，

         那么字符串foo的二進制表示為： 01100110 01101111 01101111

     所以，如果執行 setbit( 'n1' , 7 , 1 )，則就會將第 7 位設置為 1 ，

         那么最終二進制則變成 01100111 01101111 01101111 ，即： "goo"

# 擴展，轉換二進制表示：

     # source = "武沛齊"

     source = "foo"

     for i in source:

         num = ord (i)

         print bin (num).replace( 'b' ,'')

     特別的，如果source是漢字 "武沛齊" 怎么辦？

     答：對於utf - 8 ，每一個漢字占 3 個字節，那么 "武沛齊" 則有 9 個字節

        對於漢字， for 循環時候會按照字節迭代，那么在迭代時，將每一個字節轉換十進制數，然后再將十進制數轉換成二進制

         11100110 10101101 10100110 11100110 10110010 10011011 11101001 10111101 10010000

         - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

                     武                         沛                           齊

getbit(name, offset)

?

1

# 獲取name對應的值的二進制表示中的某位的值（0或1）

bitcount(key, start=None, end=None)

?

1

2

3

4

5

# 獲取name對應的值的二進制表示中 1 的個數

# 參數：

     # key，Redis的name

     # start，位起始位置

     # end，位結束位置

bitop(operation, dest, *keys)

?

1

2

3

4

5

6

7

8

9

10

# 獲取多個值，並將值做位運算，將最后的結果保存至新的name對應的值

# 參數：

     # operation,AND（並）、 OR（或）、 NOT（非）、 XOR（異或）

     # dest, 新的Redis的name

     # *keys,要查找的Redis的name

# 如：

     bitop( "AND" , 'new_name' , 'n1' , 'n2' , 'n3' )

     # 獲取Redis中n1,n2,n3對應的值，然后講所有的值做位運算（求並集），然后將結果保存 new_name 對應的值中

strlen(name)

?

1

# 返回name對應值的字節長度（一個漢字3個字節）

incr(self, name, amount=1)

?

1

2

3

4

5

6

7

# 自增 name對應的值，當name不存在時，則創建name＝amount，否則，則自增。

# 參數：

     # name,Redis的name

     # amount,自增數（必須是整數）

# 注：同incrby

incrbyfloat(self, name, amount=1.0)

?

1

2

3

4

5

# 自增 name對應的值，當name不存在時，則創建name＝amount，否則，則自增。

# 參數：

     # name,Redis的name

     # amount,自增數（浮點型）

decr(self, name, amount=1)

?

1

2

3

4

5

# 自減 name對應的值，當name不存在時，則創建name＝amount，否則，則自減。

# 參數：

     # name,Redis的name

     # amount,自減數（整數）

append(key, value)

?

1

2

3

4

5

# 在redis name對應的值后面追加內容

# 參數：

     key, redis的name

     value, 要追加的字符串

　　

5、散列表（Hash）操作

Hash操作，redis中Hash在內存中的存儲格式如下圖：

hset(name, key, value)

?

1

2

3

4

5

6

7

8

9

# name對應的hash中設置一個鍵值對（不存在，則創建；否則，修改）

# 參數：

     # name，redis的name

     # key，name對應的hash中的key

     # value，name對應的hash中的value

# 注：

     # hsetnx(name, key, value),當name對應的hash中不存在當前key時則創建（相當於添加）

hmset(name, mapping)

?

1

2

3

4

5

6

7

8

# 在name對應的hash中批量設置鍵值對

# 參數：

     # name，redis的name

     # mapping，字典，如：{'k1':'v1', 'k2': 'v2'}

# 如：

     # r.hmset('xx', {'k1':'v1', 'k2': 'v2'})

hget(name,key)

?

1

# 在name對應的hash中獲取根據key獲取value

hmget(name, keys, *args)

?

1

2

3

4

5

6

7

8

9

10

11

# 在name對應的hash中獲取多個key的值

# 參數：

     # name，reids對應的name

     # keys，要獲取key集合，如：['k1', 'k2', 'k3']

     # *args，要獲取的key，如：k1,k2,k3

# 如：

     # r.mget('xx', ['k1', 'k2'])

     # 或

     # print r.hmget('xx', 'k1', 'k2')

hgetall(name)

?

1

獲取name對應 hash 的所有鍵值

hlen(name)

?

1

# 獲取name對應的hash中鍵值對的個數

hkeys(name)

?

1

# 獲取name對應的hash中所有的key的值

hvals(name)

?

1

# 獲取name對應的hash中所有的value的值

hexists(name, key)

?

1

# 檢查name對應的hash是否存在當前傳入的key

hdel(name,*keys)

?

1

# 將name對應的hash中指定key的鍵值對刪除

hincrby(name, key, amount=1) 把原來的值加1

hincrby ('xxx','slex',amount=-1) 把原來的值自減1

?

1

2

3

4

5

# 自增name對應的hash中的指定key的值，不存在則創建key=amount

# 參數：

     # name，redis中的name

     # key， hash對應的key

     # amount，自增數（整數）

hincrbyfloat(name, key, amount=1.0)

?

1

2

3

4

5

6

7

8

# 自增name對應的hash中的指定key的值，不存在則創建key=amount

# 參數：

     # name，redis中的name

     # key， hash對應的key

     # amount，自增數（浮點數）

# 自增name對應的hash中的指定key的值，不存在則創建key=amount

hscan(name, cursor=0, match=None, count=None)

?

1

2

3

4

5

6

7

8

9

10

11

12

13

# 增量式迭代獲取，對於數據大的數據非常有用，hscan可以實現分片的獲取數據，並非一次性將數據全部獲取完，從而放置內存被撐爆

# 參數：

     # name，redis的name

     # cursor，游標（基於游標分批取獲取數據）

     # match，匹配指定key，默認None 表示所有的key

     # count，每次分片最少獲取個數，默認None表示采用Redis的默認分片個數

# 如：

     # 第一次：cursor1, data1 = r.hscan('xx', cursor=0, match=None, count=None)

     # 第二次：cursor2, data1 = r.hscan('xx', cursor=cursor1, match=None, count=None)

     # ...

     # 直到返回值cursor的值為0時，表示數據已經通過分片獲取完畢

hscan_iter(name, match=None, count=None)

?

1

2

3

4

5

6

7

8

9

# 利用yield封裝hscan創建生成器，實現分批去redis中獲取數據

# 參數：

     # match，匹配指定key，默認None 表示所有的key

     # count，每次分片最少獲取個數，默認None表示采用Redis的默認分片個數

# 如：

     # for item in r.hscan_iter('xx'):

     #     print item

　　

6、列表（List）操作

List操作，redis中的List在在內存中按照一個name對應一個List來存儲。如圖：

lpush(name,values)

?

1

2

3

4

5

6

7

8

# 在name對應的list中添加元素，每個新的元素都添加到列表的最左邊

# 如：

     # r.lpush('oo', 11,22,33)

     # 保存順序為: 33,22,11

# 擴展：

     # rpush(name, values) 表示從右向左操作

lpushx(name,value)

?

1

2

3

4

# 在name對應的list中添加元素，只有name已經存在時，值添加到列表的最左邊

# 更多：

     # rpushx(name, value) 表示從右向左操作

llen(name)

?

1

# name對應的list元素的個數

linsert(name, where, refvalue, value))

?

1

2

3

4

5

6

7

# 在name對應的列表的某一個值前或后插入一個新值

# 參數：

     # name，redis的name

     # where，BEFORE或AFTER

     # refvalue，標桿值，即：在它前后插入數據

     # value，要插入的數據

r.lset(name, index, value)

?

1

2

3

4

5

6

# 對name對應的list中的某一個索引位置重新賦值

# 參數：

     # name，redis的name

     # index，list的索引位置

     # value，要設置的值

r.lrem(name, value, num)

?

1

2

3

4

5

6

7

8

# 在name對應的list中刪除指定的值

# 參數：

     # name，redis的name

     # value，要刪除的值

     # num， num=0，刪除列表中所有的指定值；

            # num=2,從前到后，刪除2個；

            # num=-2,從后向前，刪除2個

lpop(name)

?

1

2

3

4

# 在name對應的列表的左側獲取第一個元素並在列表中移除，返回值則是第一個元素

# 更多：

     # rpop(name) 表示從右向左操作

lindex(name, index)

?

1

在name對應的列表中根據索引獲取列表元素

lrange(name, start, end)

?

1

2

3

4

5

# 在name對應的列表分片獲取數據

# 參數：

     # name，redis的name

     # start，索引的起始位置

     # end，索引結束位置

ltrim(name, start, end)

?

1

2

3

4

5

# 在name對應的列表中移除沒有在start-end索引之間的值

# 參數：

     # name，redis的name

     # start，索引的起始位置

     # end，索引結束位置

rpoplpush(src, dst)

?

1

2

3

4

# 從一個列表取出最右邊的元素，同時將其添加至另一個列表的最左邊

# 參數：

     # src，要取數據的列表的name

     # dst，要添加數據的列表的name

blpop(keys, timeout)

?

1

2

3

4

5

6

7

8

# 將多個列表排列，按照從左到右去pop對應列表的元素

# 參數：

     # keys，redis的name的集合

     # timeout，超時時間，當元素所有列表的元素獲取完之后，阻塞等待列表內有數據的時間（秒）, 0 表示永遠阻塞

# 更多：

     # r.brpop(keys, timeout)，從右向左獲取數據

brpoplpush(src, dst, timeout=0)

?

1

2

3

4

5

6

# 從一個列表的右側移除一個元素並將其添加到另一個列表的左側

# 參數：

     # src，取出並要移除元素的列表對應的name

     # dst，要插入元素的列表對應的name

     # timeout，當src對應的列表中沒有數據時，阻塞等待其有數據的超時時間（秒），0 表示永遠阻塞

自定義增量迭代

?

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

# 由於redis類庫中沒有提供對列表元素的增量迭代，如果想要循環name對應的列表的所有元素，那么就需要：

     # 1、獲取name對應的所有列表

     # 2、循環列表

# 但是，如果列表非常大，那么就有可能在第一步時就將程序的內容撐爆，所有有必要自定義一個增量迭代的功能：

def list_iter(name):

     """

     自定義redis列表增量迭代

     :param name: redis中的name，即：迭代name對應的列表

     :return: yield 返回列表元素

     """

     list_count = r.llen(name)

     for index in xrange (list_count):

         yield r.lindex(name, index)

# 使用

for item in list_iter( 'pp' ):

     print item

7、集合（Set）操作

Set操作，Set集合就是不允許重復的列表

sadd(name,values)

?

1

# name對應的集合中添加元素

scard(name)

?

1

獲取name對應的集合中元素個數

sdiff(keys, *args)

?

1

在第一個name對應的集合中且不在其他name對應的集合的元素集合

sdiffstore(dest, keys, *args)

?

1

# 獲取第一個name對應的集合中且不在其他name對應的集合，再將其新加入到dest對應的集合中

sinter(keys, *args)

?

1

# 獲取多一個name對應集合的並集

sinterstore(dest, keys, *args)

?

1

# 獲取多一個name對應集合的並集，再講其加入到dest對應的集合中

sismember(name, value)

?

1

# 檢查value是否是name對應的集合的成員

smembers(name)

?

1

# 獲取name對應的集合的所有成員

smove(src, dst, value)

?

1

# 將某個成員從一個集合中移動到另外一個集合

spop(name)

?

1

# 從集合的右側（尾部）移除一個成員，並將其返回

srandmember(name, numbers)

?

1

# 從name對應的集合中隨機獲取 numbers 個元素

srem(name, values)

?

1

# 在name對應的集合中刪除某些值

sunion(keys, *args)

?

1

# 獲取多一個name對應的集合的並集

sunionstore(dest,keys, *args)

?

1

# 獲取多一個name對應的集合的並集，並將結果保存到dest對應的集合中

sscan(name, cursor=0, match=None, count=None)
sscan_iter(name, match=None, count=None)

?

1

# 同字符串的操作，用於增量迭代分批獲取元素，避免內存消耗太大

8、有序集合（zset）操作

有序集合，在集合的基礎上，為每元素排序；元素的排序需要根據另外一個值來進行比較，所以，對於有序集合，每一個元素有兩個值，即：值和分數，分數專門用來做排序。

zadd(name, *args, **kwargs)

?

1

2

3

4

5

# 在name對應的有序集合中添加元素

# 如：

      # zadd('zz', 'n1', 1, 'n2', 2)

      # 或

      # zadd('zz', n1=11, n2=22)

zcard(name)

?

1

# 獲取name對應的有序集合元素的數量

zcount(name, min, max)

?

1

# 獲取name對應的有序集合中分數在 [min,max] 之間的個數

zincrby(name, value, amount)

?

1

# 自增name對應的有序集合的 name 對應的分數

r.zrange( name, start, end, desc=False, withscores=False, score_cast_func=float)

?

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

# 按照索引范圍獲取name對應的有序集合的元素

# 參數：

     # name，redis的name

     # start，有序集合索引起始位置（非分數）

     # end，有序集合索引結束位置（非分數）

     # desc，排序規則，默認按照分數從小到大排序

     # withscores，是否獲取元素的分數，默認只獲取元素的值

     # score_cast_func，對分數進行數據轉換的函數

# 更多：

     # 從大到小排序

     # zrevrange(name, start, end, withscores=False, score_cast_func=float)

     # 按照分數范圍獲取name對應的有序集合的元素

     # zrangebyscore(name, min, max, start=None, num=None, withscores=False, score_cast_func=float)

     # 從大到小排序

     # zrevrangebyscore(name, max, min, start=None, num=None, withscores=False, score_cast_func=float)

zrank(name, value)

?

1

2

3

4

# 獲取某個值在 name對應的有序集合中的排行（從 0 開始）

# 更多：

     # zrevrank(name, value)，從大到小排序

zrangebylex(name, min, max, start=None, num=None)

?

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

# 當有序集合的所有成員都具有相同的分值時，有序集合的元素會根據成員的值（lexicographical ordering）來進行排序，而這個命令則可以返回給定的有序集合鍵 key 中，元素的值介於 min 和 max 之間的成員

# 對集合中的每個成員進行逐個字節的對比（byte-by-byte compare），並按照從低到高的順序，返回排序后的集合成員。如果兩個字符串有一部分內容是相同的話，那么命令會認為較長的字符串比較短的字符串要大

# 參數：

     # name，redis的name

     # min，左區間（值）。 + 表示正無限； - 表示負無限； ( 表示開區間； [ 則表示閉區間

     # min，右區間（值）

     # start，對結果進行分片處理，索引位置

     # num，對結果進行分片處理，索引后面的num個元素

# 如：

     # ZADD myzset 0 aa 0 ba 0 ca 0 da 0 ea 0 fa 0 ga

     # r.zrangebylex('myzset', "-", "[ca") 結果為：['aa', 'ba', 'ca']

# 更多：

     # 從大到小排序

     # zrevrangebylex(name, max, min, start=None, num=None)

zrem(name, values)

?

1

2

3

# 刪除name對應的有序集合中值是values的成員

# 如：zrem('zz', ['s1', 's2'])

zremrangebyrank(name, min, max)

?

1

# 根據排行范圍刪除

zremrangebyscore(name, min, max)

?

1

# 根據分數范圍刪除

zremrangebylex(name, min, max)

?

1

# 根據值返回刪除

zscore(name, value)

?

1

# 獲取name對應有序集合中 value 對應的分數

zinterstore(dest, keys, aggregate=None)

?

1

2

# 獲取兩個有序集合的交集，如果遇到相同值不同分數，則按照aggregate進行操作

# aggregate的值為: SUM MIN MAX

zunionstore(dest, keys, aggregate=None)

?

1

2

# 獲取兩個有序集合的並集，如果遇到相同值不同分數，則按照aggregate進行操作

# aggregate的值為: SUM MIN MAX

zscan(name, cursor=0, match=None, count=None, score_cast_func=float)
zscan_iter(name, match=None, count=None,score_cast_func=float)

?

1

# 同字符串相似，相較於字符串新增score_cast_func，用來對分數進行操作

　　

9、其他常用操作

delete(*names)

?

1

# 根據刪除redis中的任意數據類型

exists(name)

?

1

# 檢測redis的name是否存在

keys(pattern='*')

?

1

2

3

4

5

6

7

# 根據模型獲取redis的name

# 更多：

     # KEYS * 匹配數據庫中所有 key 。

     # KEYS h?llo 匹配 hello ， hallo 和 hxllo 等。

     # KEYS h*llo 匹配 hllo 和 heeeeello 等。

     # KEYS h[ae]llo 匹配 hello 和 hallo ，但不匹配 hillo

expire(name ,time)

?

1

# 為某個redis的某個name設置超時時間

rename(src, dst)

?

1

# 對redis的name重命名為

move(name, db))

?

1

# 將redis的某個值移動到指定的db下

randomkey()

?

1

# 隨機獲取一個redis的name（不刪除）

type(name)

?

1

# 獲取name對應值的類型

scan(cursor=0, match=None, count=None)
scan_iter(match=None, count=None)

?

1

# 同字符串操作，用於增量迭代獲取key

　

10、管道

redis-py默認在執行每次請求都會創建（連接池申請連接）和斷開（歸還連接池）一次連接操作，如果想要在一次請求中指定多個命令，則可以使用pipline實現一次請求指定多個命令，並且默認情況下一次pipline 是原子性操作。

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  import 
                  redis 
                 
                  pool  
                  = 
                  redis.ConnectionPool(host 
                  = 
                  '10.211.55.4' 
                  , port 
                  = 
                  6379 
                  ) 
                 
                  r  
                  = 
                  redis.Redis(connection_pool 
                  = 
                  pool) 
                 
                  # pipe = r.pipeline(transaction=False) 
                 
                  pipe  
                  = 
                  r.pipeline(transaction 
                  = 
                  True 
                  ) 
                 
                  pipe. 
                  set 
                  ( 
                  'name' 
                  ,  
                  'alex' 
                  ) 
                 
                  pipe. 
                  set 
                  ( 
                  'role' 
                  ,  
                  'sb' 
                  ) 
                 
                  pipe.execute()

11、發布訂閱

發布者：服務器

訂閱者：Dashboad和數據處理

Demo如下：

#!/usr/bin/env python
# -*- coding:utf-8 -*-

import redis


class RedisHelper:

    def __init__(self):
        self.__conn = redis.Redis(host='10.211.55.4')
        self.chan_sub = 'fm104.5'
        self.chan_pub = 'fm104.5'

    def public(self, msg):
        self.__conn.publish(self.chan_pub, msg)
        return True

    def subscribe(self):
        pub = self.__conn.pubsub()
        pub.subscribe(self.chan_sub)
        pub.parse_response()
        return pub

RedisHelper

訂閱者：

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  from 
                  monitor.RedisHelper  
                  import 
                  RedisHelper 
                 
                  obj  
                  = 
                  RedisHelper() 
                 
                  redis_sub  
                  = 
                  obj.subscribe() 
                 
                  while 
                  True 
                  : 
                 
                  msg 
                  = 
                  redis_sub.parse_response() 
                 
                  print 
                  msg

發布者：

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  from 
                  monitor.RedisHelper  
                  import 
                  RedisHelper 
                 
                  obj  
                  = 
                  RedisHelper() 
                 
                  obj.public( 
                  'hello' 
                  )

更多參見：https://github.com/andymccurdy/redis-py/

http://doc.redisfans.com/

三.操作表

key操作

在這里主要將Key的一些判斷和操作方法做下總結：

方法	作用	參數說明	示例	示例說明	示例結果
exists(name)	判斷一個key是否存在	name: key名	redis.exists('name')	是否存在name這個key	True
delete(name)	刪除一個key	name: key名	redis.delete('name')	刪除name這個key	1
type(name)	判斷key類型	name: key名	redis.type('name')	判斷name這個key類型	b'string'
keys(pattern)	獲取所有符合規則的key	pattern: 匹配規則	redis.keys('n*')	獲取所有以n開頭的key	[b'name']
randomkey()	獲取隨機的一個key		randomkey()	獲取隨機的一個key	b'name'
rename(src, dst)	將key重命名	src: 原key名 dst: 新key名	redis.rename('name', 'nickname')	將name重命名為nickname	True
dbsize()	獲取當前數據庫中key的數目		dbsize()	獲取當前數據庫中key的數目	100
expire(name, time)	設定key的過期時間，單位秒	name: key名 time: 秒數	redis.expire('name', 2)	將name這key的過期時間設置2秒	True
ttl(name)	獲取key的過期時間，單位秒，-1為永久不過期	name: key名	redis.ttl('name')	獲取name這key的過期時間	-1
move(name, db)	將key移動到其他數據庫	name: key名 db: 數據庫代號	move('name', 2)	將name移動到2號數據庫	True
flushdb()	刪除當前選擇數據庫中的所有key		flushdb()	刪除當前選擇數據庫中的所有key	True
flushall()	刪除所有數據庫中的所有key		flushall()	刪除所有數據庫中的所有key	True

String操作

方法	作用	參數說明	示例	示例說明	示例結果
set(name, value)	給數據庫中key為name的string賦予值value	name: key名 value: 值	redis.set('name', 'Bob')	給name這個key的value賦值為Bob	True
get(name)	返回數據庫中key為name的string的value	name: key名	redis.get('name')	返回name這個key的value	b'Bob'
getset(name, value)	給數據庫中key為name的string賦予值value並返回上次的value	name: key名 value: 新值	redis.getset('name', 'Mike')	賦值name為Mike並得到上次的value	b'Bob'
mget(keys, *args)	返回多個key對應的value	keys: key的列表	redis.mget(['name', 'nickname'])	返回name和nickname的value	[b'Mike', b'Miker']
setnx(name, value)	如果key不存在才設置value	name: key名	redis.setnx('newname', 'James')	如果newname這key不存在則設置值為James	第一次運行True，第二次False
setex(name, time, value)	設置可以對應的值為string類型的value，並指定此鍵值對應的有效期	name: key名 time: 有效期 value: 值	redis.setex('name', 1, 'James')	將name這key的值設為James，有效期1秒	True
setrange(name, offset, value)	設置指定key的value值的子字符串	name: key名 offset: 偏移量 value: 值	redis.set('name', 'Hello') redis.setrange('name', 6, 'World')	設置name為Hello字符串，並在index為6的位置補World	11，修改后的字符串長度
mset(mapping)	批量賦值	mapping: 字典	redis.mset({'name1': 'Durant', 'name2': 'James'})	將name1設為Durant，name2設為James	True
msetnx(mapping)	key均不存在時才批量賦值	mapping: 字典	redis.msetnx({'name3': 'Smith', 'name4': 'Curry'})	在name3和name4均不存在的情況下才設置二者值	True
incr(name, amount=1)	key為name的value增值操作，默認1，key不存在則被創建並設為amount	name: key名 amount:增長的值	redis.incr('age', 1)	age對應的值增1，若不存在則會創建並設置為1	1，即修改后的值
decr(name, amount=1)	key為name的value減值操作，默認1，key不存在則被創建並設置為-amount	name: key名 amount:減少的值	redis.decr('age', 1)	age對應的值減1，若不存在則會創建並設置為-1	-1，即修改后的值
append(key, value)	key為name的string的值附加value	key: key名	redis.append('nickname', 'OK')	向key為nickname的值后追加OK	13，即修改后的字符串長度
substr(name, start, end=-1)	返回key為name的string的value的子串	name: key名 start: 起始索引 end: 終止索引，默認-1截取到末尾	redis.substr('name', 1, 4)	返回key為name的值的字符串，截取索引為1-4的字符	b'ello'
getrange(key, start, end)	獲取key的value值從start到end的子字符串	key: key名 start: 起始索引 end: 終止索引	redis.getrange('name', 1, 4)	返回key為name的值的字符串，截取索引為1-4的字符	b'ello'

List操作

方法	作用	參數說明	示例	示例說明	示例結果
rpush(name, *values)	在key為name的list尾添加值為value的元素，可以傳多個	name: key名 values: 值	redis.rpush('list', 1, 2, 3)	給list這個key的list尾添加1、2、3	3，list大小
lpush(name, *values)	在key為name的list頭添加值為value的元素，可以傳多個	name: key名 values: 值	redis.lpush('list', 0)	給list這個key的list頭添加0	4，list大小
llen(name)	返回key為name的list的長度	name: key名	redis.llen('list')	返回key為list的列表的長度	4
lrange(name, start, end)	返回key為name的list中start至end之間的元素	name: key名 start: 起始索引 end: 終止索引	redis.lrange('list', 1, 3)	返回起始為1終止為3的索引范圍對應的list	[b'3', b'2', b'1']
ltrim(name, start, end)	截取key為name的list，保留索引為start到end的內容	name:key名 start: 起始索引 end: 終止索引	ltrim('list', 1, 3)	保留key為list的索引為1到3的元素	True
lindex(name, index)	返回key為name的list中index位置的元素	name: key名 index: 索引	redis.lindex('list', 1)	返回key為list的列表index為1的元素	b'2'
lset(name, index, value)	給key為name的list中index位置的元素賦值，越界則報錯	name: key名 index: 索引位置 value: 值	redis.lset('list', 1, 5)	將key為list的list索引1位置賦值為5	True
lrem(name, count, value)	刪除count個key的list中值為value的元素	name: key名 count: 刪除個數 value: 值	redis.lrem('list', 2, 3)	將key為list的列表刪除2個3	1，即刪除的個數
lpop(name)	返回並刪除key為name的list中的首元素	name: key名	redis.lpop('list')	返回並刪除名為list的list第一個元素	b'5'
rpop(name)	返回並刪除key為name的list中的尾元素	name: key名	redis.rpop('list')	返回並刪除名為list的list最后一個元素	b'2'
blpop(keys, timeout=0)	返回並刪除名稱為在keys中的list中的首元素，如果list為空，則會一直阻塞等待	keys: key列表 timeout: 超時等待時間，0為一直等待	redis.blpop('list')	返回並刪除名為list的list的第一個元素	[b'5']
brpop(keys, timeout=0)	返回並刪除key為name的list中的尾元素，如果list為空，則會一直阻塞等待	keys: key列表 timeout: 超時等待時間，0為一直等待	redis.brpop('list')	返回並刪除名為list的list的最后一個元素	[b'2']
rpoplpush(src, dst)	返回並刪除名稱為src的list的尾元素，並將該元素添加到名稱為dst的list的頭部	src: 源list的key dst: 目標list的key	redis.rpoplpush('list', 'list2')	將key為list的list尾元素刪除並返回並將其添加到key為list2的list頭部	b'2'

Set操作

方法	作用	參數說明	示例	示例說明	示例結果
sadd(name, *values)	向key為name的set中添加元素	name: key名 values: 值，可為多個	redis.sadd('tags', 'Book', 'Tea', 'Coffee')	向key為tags的set中添加Book、Tea、Coffee三個內容	3，即插入的數據個數
srem(name, *values)	從key為name的set中刪除元素	name: key名 values: 值，可為多個	redis.srem('tags', 'Book')	從key為tags的set中刪除Book	1，即刪除的數據個數
spop(name)	隨機返回並刪除key為name的set中一個元素	name: key名	redis.spop('tags')	從key為tags的set中隨機刪除並返回該元素	b'Tea'
smove(src, dst, value)	從src對應的set中移除元素並添加到dst對應的set中	src: 源set dst: 目標set value: 元素值	redis.smove('tags', 'tags2', 'Coffee')	從key為tags的set中刪除元素Coffee並添加到key為tags2的set	True
scard(name)	返回key為name的set的元素個數	name: key名	redis.scard('tags')	獲取key為tags的set中元素個數	3
sismember(name, value)	測試member是否是key為name的set的元素	name:key值	redis.sismember('tags', 'Book')	判斷Book是否為key為tags的set元素	True
sinter(keys, *args)	返回所有給定key的set的交集	keys: key列表	redis.sinter(['tags', 'tags2'])	返回key為tags的set和key為tags2的set的交集	{b'Coffee'}
sinterstore(dest, keys, *args)	求交集並將交集保存到dest的集合	dest:結果集合 keys:key列表	redis.sinterstore('inttag', ['tags', 'tags2'])	求key為tags的set和key為tags2的set的交集並保存為inttag	1
sunion(keys, *args)	返回所有給定key的set的並集	keys: key列表	redis.sunion(['tags', 'tags2'])	返回key為tags的set和key為tags2的set的並集	{b'Coffee', b'Book', b'Pen'}
sunionstore(dest, keys, *args)	求並集並將並集保存到dest的集合	dest:結果集合 keys:key列表	redis.sunionstore('inttag', ['tags', 'tags2'])	求key為tags的set和key為tags2的set的並集並保存為inttag	3
sdiff(keys, *args)	返回所有給定key的set的差集	keys: key列表	redis.sdiff(['tags', 'tags2'])	返回key為tags的set和key為tags2的set的差集	{b'Book', b'Pen'}
sdiffstore(dest, keys, *args)	求差集並將差集保存到dest的集合	dest:結果集合 keys:key列表	redis.sdiffstore('inttag', ['tags', 'tags2'])	求key為tags的set和key為tags2的set的差集並保存為inttag	3
smembers(name)	返回key為name的set的所有元素	name: key名	redis.smembers('tags')	返回key為tags的set的所有元素	{b'Pen', b'Book', b'Coffee'}
srandmember(name)	隨機返回key為name的set的一個元素，但不刪除元素	name: key值	redis.srandmember('tags')	隨機返回key為tags的set的一個元素

Sorted Set操作

方法	作用	參數說明	示例	示例說明	示例結果
zadd(name, args, *kwargs)	向key為name的zset中添加元素member，score用於排序。如果該元素存在，則更新其順序	name: key名 args: 可變參數	redis.zadd('grade', 100, 'Bob', 98, 'Mike')	向key為grade的zset中添加Bob，score為100，添加Mike，score為98	2，即添加的元素個數
zrem(name, *values)	刪除key為name的zset中的元素	name: key名 values: 元素	redis.zrem('grade', 'Mike')	從key為grade的zset中刪除Mike	1，即刪除的元素個數
zincrby(name, value, amount=1)	如果在key為name的zset中已經存在元素value，則該元素的score增加amount，否則向該集合中添加該元素，其score的值為amount	name: key名 value: 元素 amount: 增長的score值	redis.zincrby('grade', 'Bob', -2)	key為grade的zset中Bob的score減2	98.0，即修改后的值
zrank(name, value)	返回key為name的zset中元素的排名（按score從小到大排序）即下標	name: key名 value: 元素值	redis.zrank('grade', 'Amy')	得到key為grade的zset中Amy的排名	1
zrevrank(name, value)	返回key為name的zset中元素的倒數排名（按score從大到小排序）即下標	name: key名 value: 元素值	redis.zrevrank('grade', 'Amy')	得到key為grade的zset中Amy的倒數排名	2
zrevrange(name, start, end, withscores=False)	返回key為name的zset（按score從大到小排序）中的index從start到end的所有元素	name: key值 start: 開始索引 end: 結束索引 withscores: 是否帶score	redis.zrevrange('grade', 0, 3)	返回key為grade的zset前四名元素	[b'Bob', b'Mike', b'Amy', b'James']
zrangebyscore(name, min, max, start=None, num=None, withscores=False)	返回key為name的zset中score在給定區間的元素	name:key名 min: 最低score max:最高score start: 起始索引 num: 個數 withscores: 是否帶score	redis.zrangebyscore('grade', 80, 95)	返回key為grade的zset中score在80和95之間的元素
zcount(name, min, max)	返回key為name的zset中score在給定區間的數量	name:key名 min: 最低score max: 最高score	redis.zcount('grade', 80, 95)	返回key為grade的zset中score在80到95的元素個數	2
zcard(name)	返回key為name的zset的元素個數	name: key名	redis.zcard('grade')	獲取key為grade的zset中元素個數	3
zremrangebyrank(name, min, max)	刪除key為name的zset中排名在給定區間的元素	name:key名 min: 最低位次 max: 最高位次	redis.zremrangebyrank('grade', 0, 0)	刪除key為grade的zset中排名第一的元素	1，即刪除的元素個數
zremrangebyscore(name, min, max)	刪除key為name的zset中score在給定區間的元素	name:key名 min: 最低score max:最高score	redis.zremrangebyscore('grade', 80, 90)	刪除score在80到90之間的元素	1，即刪除的元素個數

Hash操作

方法	作用	參數說明	示例	示例說明	示例結果
hset(name, key, value)	向key為name的hash中添加映射	name: key名 key: 映射鍵名 value: 映射鍵值	hset('price', 'cake', 5)	向key為price的hash中添加映射關系，cake的值為5	1，即添加的映射個數
hsetnx(name, key, value)	向key為name的hash中添加映射，如果映射鍵名不存在	name: key名 key: 映射鍵名 value: 映射鍵值	hsetnx('price', 'book', 6)	向key為price的hash中添加映射關系，book的值為6	1，即添加的映射個數
hget(name, key)	返回key為name的hash中field對應的value	name: key名 key: 映射鍵名	redis.hget('price', 'cake')	獲取key為price的hash中鍵名為cake的value	5
hmget(name, keys, *args)	返回key為name的hash中各個鍵對應的value	name: key名 keys: 映射鍵名列表	redis.hmget('price', ['apple', 'orange'])	獲取key為price的hash中apple和orange的值	[b'3', b'7']
hmset(name, mapping)	向key為name的hash中批量添加映射	name: key名 mapping: 映射字典	redis.hmset('price', {'banana': 2, 'pear': 6})	向key為price的hash中批量添加映射	True
hincrby(name, key, amount=1)	將key為name的hash中映射的value增加amount	name: key名 key: 映射鍵名 amount: 增長量	redis.hincrby('price', 'apple', 3)	key為price的hash中apple的值增加3	6，修改后的值
hexists(name, key)	key為namehash中是否存在鍵名為key的映射	name: key名 key: 映射鍵名	redis.hexists('price', 'banana')	key為price的hash中banana的值是否存在	True
hdel(name, *keys)	key為namehash中刪除鍵名為key的映射	name: key名 key: 映射鍵名	redis.hdel('price', 'banana')	從key為price的hash中刪除鍵名為banana的映射	True
hlen(name)	從key為name的hash中獲取映射個數	name: key名	redis.hlen('price')	從key為price的hash中獲取映射個數	6
hkeys(name)	從key為name的hash中獲取所有映射鍵名	name: key名	redis.hkeys('price')	從key為price的hash中獲取所有映射鍵名	[b'cake', b'book', b'banana', b'pear']
hvals(name)	從key為name的hash中獲取所有映射鍵值	name: key名	redis.hvals('price')	從key為price的hash中獲取所有映射鍵值	[b'5', b'6', b'2', b'6']
hgetall(name)	從key為name的hash中獲取所有映射鍵值對	name: key名	redis.hgetall('price')	從key為price的hash中獲取所有映射鍵值對	{b'cake': b'5', b'book': b'6', b'orange': b'7', b'pear': b'6'}

RabbitMQ

RabbitMQ是一個在AMQP基礎上完整的，可復用的企業消息系統。他遵循Mozilla Public License開源協議。

MQ全稱為Message Queue, 消息隊列（MQ）是一種應用程序對應用程序的通信方法。應用程序通過讀寫出入隊列的消息（針對應用程序的數據）來通信，而無需專用連接來鏈接它們。消息傳遞指的是程序之間通過在消息中發送數據進行通信，而不是通過直接調用彼此來通信，直接調用通常是用於諸如遠程過程調用的技術。排隊指的是應用程序通過隊列來通信。隊列的使用除去了接收和發送應用程序同時執行的要求。

RabbitMQ安裝

 
                  安裝配置epel源 
                 
 
                      
                  $ rpm  
                  - 
                  ivh http: 
                  / 
                  / 
                  dl.fedoraproject.org 
                  / 
                  pub 
                  / 
                  epel 
                  / 
                  6 
                  / 
                  i386 
                  / 
                  epel 
                  - 
                  release 
                  - 
                  6 
                  - 
                  8.noarch 
                  .rpm 
                 

                     
                 
 
                  安裝erlang 
                 
 
                      
                  $ yum  
                  - 
                  y install erlang 
                 

                     
                 
 
                  安裝RabbitMQ 
                 
 
                      
                  $ yum  
                  - 
                  y install rabbitmq 
                  - 
                  server 
                 

注意：service rabbitmq-server start/stop

安裝API

 
                  pip install pika 
                 
                  or 
                 
                  easy_install pika 
                 
                  or 
                 
                  源碼 
                 
                  https: 
                  / 
                  / 
                  pypi.python.org 
                  / 
                  pypi 
                  / 
                  pika

使用API操作RabbitMQ

基於Queue實現生產者消費者模型

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import Queue
import threading


message = Queue.Queue(10)


def producer(i):
    while True:
        message.put(i)


def consumer(i):
    while True:
        msg = message.get()


for i in range(12):
    t = threading.Thread(target=producer, args=(i,))
    t.start()

for i in range(10):
    t = threading.Thread(target=consumer, args=(i,))
    t.start()

View Code

對於RabbitMQ來說，生產和消費不再針對內存里的一個Queue對象，而是某台服務器上的RabbitMQ Server實現的消息隊列。

 
                  #!/usr/bin/env python 
                 
                  import 
                  pika 
                 
                  # ######################### 生產者 ######################### 
                 
                  connection  
                  = 
                  pika.BlockingConnection(pika.ConnectionParameters( 
                 
                  host 
                  = 
                  'localhost' 
                  )) 
                 
                  channel  
                  = 
                  connection.channel() 
                 
                  channel.queue_declare(queue 
                  = 
                  'hello' 
                  ) 
                 
                  channel.basic_publish(exchange 
                  = 
                  '', 
                 
                  routing_key 
                  = 
                  'hello' 
                  , 
                 
                  body 
                  = 
                  'Hello World!' 
                  ) 
                 
                  print 
                  ( 
                  " [x] Sent 'Hello World!'" 
                  ) 
                 
                  connection.close()

 
                  #!/usr/bin/env python 
                 
                  import 
                  pika 
                 
                  # ########################## 消費者 ########################## 
                 
                  connection  
                  = 
                  pika.BlockingConnection(pika.ConnectionParameters( 
                 
                  host 
                  = 
                  'localhost' 
                  )) 
                 
                  channel  
                  = 
                  connection.channel() 
                 
                  channel.queue_declare(queue 
                  = 
                  'hello' 
                  ) 
                 
                  def 
                  callback(ch, method, properties, body): 
                 
                  print 
                  ( 
                  " [x] Received %r" 
                  % 
                  body) 
                 
                  channel.basic_consume(callback, 
                 
                  queue 
                  = 
                  'hello' 
                  , 
                 
                  no_ack 
                  = 
                  True 
                  ) 
                 
                  print 
                  ( 
                  ' [*] Waiting for messages. To exit press CTRL+C' 
                  ) 
                 
                  channel.start_consuming()

1、acknowledgment 消息不丟失

no-ack ＝ False，如果消費者遇到情況(its channel is closed, connection is closed, or TCP connection is lost)掛掉了，那么，RabbitMQ會重新將該任務添加到隊列中。

import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='10.211.55.4'))
channel = connection.channel()

channel.queue_declare(queue='hello')

def callback(ch, method, properties, body):
    print(" [x] Received %r" % body)
    import time
    time.sleep(10)
    print 'ok'
    ch.basic_ack(delivery_tag = method.delivery_tag)

channel.basic_consume(callback,
                      queue='hello',
                      no_ack=False)

print(' [*] Waiting for messages. To exit press CTRL+C')
channel.start_consuming()

消費者

2、durable 消息不丟失

#!/usr/bin/env python
import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(host='10.211.55.4'))
channel = connection.channel()

# make message persistent
channel.queue_declare(queue='hello', durable=True)

channel.basic_publish(exchange='',
                      routing_key='hello',
                      body='Hello World!',
                      properties=pika.BasicProperties(
                          delivery_mode=2, # make message persistent
                      ))
print(" [x] Sent 'Hello World!'")
connection.close()

生產者

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(host='10.211.55.4'))
channel = connection.channel()

# make message persistent
channel.queue_declare(queue='hello', durable=True)


def callback(ch, method, properties, body):
    print(" [x] Received %r" % body)
    import time
    time.sleep(10)
    print 'ok'
    ch.basic_ack(delivery_tag = method.delivery_tag)

channel.basic_consume(callback,
                      queue='hello',
                      no_ack=False)

print(' [*] Waiting for messages. To exit press CTRL+C')
channel.start_consuming()

消費者

3、消息獲取順序

默認消息隊列里的數據是按照順序被消費者拿走，例如：消費者1 去隊列中獲取奇數序列的任務，消費者2去隊列中獲取偶數序列的任務。

channel.basic_qos(prefetch_count=1) 表示誰來誰取，不再按照奇偶數排列

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(host='10.211.55.4'))
channel = connection.channel()

# make message persistent
channel.queue_declare(queue='hello')


def callback(ch, method, properties, body):
    print(" [x] Received %r" % body)
    import time
    time.sleep(10)
    print 'ok'
    ch.basic_ack(delivery_tag = method.delivery_tag)

channel.basic_qos(prefetch_count=1)

channel.basic_consume(callback,
                      queue='hello',
                      no_ack=False)

print(' [*] Waiting for messages. To exit press CTRL+C')
channel.start_consuming()

消費者

4、發布訂閱

發布訂閱和簡單的消息隊列區別在於，發布訂閱會將消息發送給所有的訂閱者，而消息隊列中的數據被消費一次便消失。所以，RabbitMQ實現發布和訂閱時，會為每一個訂閱者創建一個隊列，而發布者發布消息時，會將消息放置在所有相關隊列中。

exchange＿type = fanout

#!/usr/bin/env python
import pika
import sys

connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='logs',
                         exchange＿type='fanout')

message = ' '.join(sys.argv[1:]) or "info: Hello World!"
channel.basic_publish(exchange='logs',
                      routing_key='',
                      body=message)
print(" [x] Sent %r" % message)
connection.close()

發布者

#!/usr/bin/env python
import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='logs',
                         exchange＿type='fanout')

result = channel.queue_declare(exclusive=True)
queue_name = result.method.queue

channel.queue_bind(exchange='logs',
                   queue=queue_name)

print(' [*] Waiting for logs. To exit press CTRL+C')

def callback(ch, method, properties, body):
    print(" [x] %r" % body)

channel.basic_consume(callback,
                      queue=queue_name,
                      no_ack=True)

channel.start_consuming()

訂閱者

5、關鍵字發送

exchange＿type = direct

之前事例，發送消息時明確指定某個隊列並向其中發送消息，RabbitMQ還支持根據關鍵字發送，即：隊列綁定關鍵字，發送者將數據根據關鍵字發送到消息exchange，exchange根據關鍵字判定應該將數據發送至指定隊列。

#!/usr/bin/env python
import pika
import sys

connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='direct_logs',
                         exchange＿type='direct')

result = channel.queue_declare(exclusive=True)
queue_name = result.method.queue

severities = sys.argv[1:]
if not severities:
    sys.stderr.write("Usage: %s [info] [warning] [error]\n" % sys.argv[0])
    sys.exit(1)

for severity in severities:
    channel.queue_bind(exchange='direct_logs',
                       queue=queue_name,
                       routing_key=severity)

print(' [*] Waiting for logs. To exit press CTRL+C')

def callback(ch, method, properties, body):
    print(" [x] %r:%r" % (method.routing_key, body))

channel.basic_consume(callback,
                      queue=queue_name,
                      no_ack=True)

channel.start_consuming()

消費者

#!/usr/bin/env python
import pika
import sys

connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='direct_logs',
                         exchange＿type='direct')

severity = sys.argv[1] if len(sys.argv) > 1 else 'info'
message = ' '.join(sys.argv[2:]) or 'Hello World!'
channel.basic_publish(exchange='direct_logs',
                      routing_key=severity,
                      body=message)
print(" [x] Sent %r:%r" % (severity, message))
connection.close()

生產者

6、模糊匹配

exchange＿type = topic

在topic類型下，可以讓隊列綁定幾個模糊的關鍵字，之后發送者將數據發送到exchange，exchange將傳入”路由值“和 ”關鍵字“進行匹配，匹配成功，則將數據發送到指定隊列。

# 表示可以匹配 0 個或多個單詞
* 表示只能匹配一個單詞

 
                  發送者路由值              隊列中 
                 
                  old.boy.python          old. 
                  *  
                  - 
                  - 
                  不匹配 
                 
                  old.boy.python          old. 
                  #  -- 匹配

#!/usr/bin/env python
import pika
import sys

connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='topic_logs',
                         exchange＿type='topic')

result = channel.queue_declare(exclusive=True)
queue_name = result.method.queue

binding_keys = sys.argv[1:]
if not binding_keys:
    sys.stderr.write("Usage: %s [binding_key]...\n" % sys.argv[0])
    sys.exit(1)

for binding_key in binding_keys:
    channel.queue_bind(exchange='topic_logs',
                       queue=queue_name,
                       routing_key=binding_key)

print(' [*] Waiting for logs. To exit press CTRL+C')

def callback(ch, method, properties, body):
    print(" [x] %r:%r" % (method.routing_key, body))

channel.basic_consume(callback,
                      queue=queue_name,
                      no_ack=True)

channel.start_consuming()

消費者

#!/usr/bin/env python
import pika
import sys

connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='topic_logs',
                         exchange＿type='topic')

routing_key = sys.argv[1] if len(sys.argv) > 1 else 'anonymous.info'
message = ' '.join(sys.argv[2:]) or 'Hello World!'
channel.basic_publish(exchange='topic_logs',
                      routing_key=routing_key,
                      body=message)
print(" [x] Sent %r:%r" % (routing_key, message))
connection.close()

生產者

注意：

sudo rabbitmqctl add_user alex 123
# 設置用戶為administrator角色
sudo rabbitmqctl set_user_tags alex administrator
# 設置權限
sudo rabbitmqctl set_permissions -p "/" alex '.''.''.'

# 然后重啟rabbiMQ服務
sudo /etc/init.d/rabbitmq-server restart
 
# 然后可以使用剛才的用戶遠程連接rabbitmq server了。


------------------------------
credentials = pika.PlainCredentials("alex","123")

connection = pika.BlockingConnection(pika.ConnectionParameters('192.168.14.47',credentials=credentials))

View Code

SQLAlchemy

SQLAlchemy是Python編程語言下的一款ORM框架，該框架建立在數據庫API之上，使用關系對象映射進行數據庫操作，簡言之便是：將對象轉換成SQL，然后使用數據API執行SQL並獲取執行結果。

Dialect用於和數據API進行交流，根據配置文件的不同調用不同的數據庫API，從而實現對數據庫的操作，如：

 
                  MySQL 
                  - 
                  Python 
                 
 
                       
                  mysql 
                  + 
                  mysqldb: 
                  / 
                  / 
                  <user>:<password>@<host>[:<port>] 
                  / 
                  <dbname> 
                 

                     
                 
 
                  pymysql 
                 
 
                       
                  mysql 
                  + 
                  pymysql: 
                  / 
                  / 
                  <username>:<password>@<host> 
                  / 
                  <dbname>[?<options>] 
                 

                     
                 
 
                  MySQL 
                  - 
                  Connector 
                 
 
                       
                  mysql 
                  + 
                  mysqlconnector: 
                  / 
                  / 
                  <user>:<password>@<host>[:<port>] 
                  / 
                  <dbname> 
                 

                     
                 
 
                  cx_Oracle 
                 
 
                       
                  oracle 
                  + 
                  cx_oracle: 
                  / 
                  / 
                  user: 
                  pass 
                  @host:port 
                  / 
                  dbname[?key 
                  = 
                  value&key 
                  = 
                  value...] 
                 

                     
                 
 
                  更多詳見：http: 
                  / 
                  / 
                  docs.sqlalchemy.org 
                  / 
                  en 
                  / 
                  latest 
                  / 
                  dialects 
                  / 
                  index.html 
                 

步驟一：

使用 Engine/ConnectionPooling/Dialect 進行數據庫操作，Engine使用ConnectionPooling連接數據庫，然后再通過Dialect執行SQL語句。

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  from 
                  sqlalchemy  
                  import 
                  create_engine 
                 
                  engine  
                  = 
                  create_engine( 
                  "mysql+mysqldb://root:123@127.0.0.1:3306/s11" 
                  , max_overflow 
                  = 
                  5 
                  ) 
                 
                  engine.execute( 
                 
                  "INSERT INTO ts_test (a, b) VALUES ('2', 'v1')" 
                 
                  ) 
                 
                  engine.execute( 
                 
                  "INSERT INTO ts_test (a, b) VALUES (%s, %s)" 
                  , 
                 
                  (( 
                  555 
                  ,  
                  "v1" 
                  ),( 
                  666 
                  ,  
                  "v1" 
                  ),) 
                 
                  ) 
                 
                  engine.execute( 
                 
                  "INSERT INTO ts_test (a, b) VALUES (%(id)s, %(name)s)" 
                  , 
                 
                  id 
                  = 
                  999 
                  , name 
                  = 
                  "v1" 
                 
                  ) 
                 
                  result  
                  = 
                  engine.execute( 
                  'select * from ts_test' 
                  ) 
                 
                  result.fetchall()

#!/usr/bin/env python
# -*- coding:utf-8 -*-

from sqlalchemy import create_engine


engine = create_engine("mysql+mysqldb://root:123@127.0.0.1:3306/s11", max_overflow=5)


# 事務操作
with engine.begin() as conn:
    conn.execute("insert into table (x, y, z) values (1, 2, 3)")
    conn.execute("my_special_procedure(5)")
    
    
conn = engine.connect()
# 事務操作 
with conn.begin():
       conn.execute("some statement", {'x':5, 'y':10})

事務操作

注：查看數據庫連接：show status like 'Threads%';

步驟二：

使用 Schema Type/SQL Expression Language/Engine/ConnectionPooling/Dialect 進行數據庫操作。Engine使用Schema Type創建一個特定的結構對象，之后通過SQL Expression Language將該對象轉換成SQL語句，然后通過 ConnectionPooling 連接數據庫，再然后通過 Dialect 執行SQL，並獲取結果。

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  from 
                  sqlalchemy  
                  import 
                  create_engine, Table, Column, Integer, String, MetaData, ForeignKey 
                 
                  metadata  
                  = 
                  MetaData() 
                 
                  user  
                  = 
                  Table( 
                  'user' 
                  , metadata, 
                 
                  Column( 
                  'id' 
                  , Integer, primary_key 
                  = 
                  True 
                  ), 
                 
                  Column( 
                  'name' 
                  , String( 
                  20 
                  )), 
                 
                  ) 
                 
                  color  
                  = 
                  Table( 
                  'color' 
                  , metadata, 
                 
                  Column( 
                  'id' 
                  , Integer, primary_key 
                  = 
                  True 
                  ), 
                 
                  Column( 
                  'name' 
                  , String( 
                  20 
                  )), 
                 
                  ) 
                 
                  engine  
                  = 
                  create_engine( 
                  "mysql+mysqldb://root:123@127.0.0.1:3306/s11" 
                  , max_overflow 
                  = 
                  5 
                  ) 
                 
                  metadata.create_all(engine) 
                 
                  # metadata.clear() 
                 
                  # metadata.remove()

#!/usr/bin/env python
# -*- coding:utf-8 -*-

from sqlalchemy import create_engine, Table, Column, Integer, String, MetaData, ForeignKey

metadata = MetaData()

user = Table('user', metadata,
    Column('id', Integer, primary_key=True),
    Column('name', String(20)),
)

color = Table('color', metadata,
    Column('id', Integer, primary_key=True),
    Column('name', String(20)),
)
engine = create_engine("mysql+mysqldb://root:123@127.0.0.1:3306/s11", max_overflow=5)

conn = engine.connect()

# 創建SQL語句，INSERT INTO "user" (id, name) VALUES (:id, :name)
conn.execute(user.insert(),{'id':7,'name':'seven'})
conn.close()

# sql = user.insert().values(id=123, name='wu')
# conn.execute(sql)
# conn.close()

# sql = user.delete().where(user.c.id > 1)

# sql = user.update().values(fullname=user.c.name)
# sql = user.update().where(user.c.name == 'jack').values(name='ed')

# sql = select([user, ])
# sql = select([user.c.id, ])
# sql = select([user.c.name, color.c.name]).where(user.c.id==color.c.id)
# sql = select([user.c.name]).order_by(user.c.name)
# sql = select([user]).group_by(user.c.name)

# result = conn.execute(sql)
# print result.fetchall()
# conn.close()

增刪改查

更多內容詳見：

http://www.jianshu.com/p/e6bba189fcbd

http://docs.sqlalchemy.org/en/latest/core/expression_api.html

注：SQLAlchemy無法修改表結構，如果需要可以使用SQLAlchemy開發者開源的另外一個軟件Alembic來完成。

步驟三：

使用 ORM/Schema Type/SQL Expression Language/Engine/ConnectionPooling/Dialect 所有組件對數據進行操作。根據類創建對象，對象轉換成SQL，執行SQL。

 
                  #!/usr/bin/env python 
                 
                  # -*- coding:utf-8 -*- 
                 
                  from 
                  sqlalchemy.ext.declarative  
                  import 
                  declarative_base 
                 
                  from 
                  sqlalchemy  
                  import 
                  Column, Integer, String 
                 
                  from 
                  sqlalchemy.orm  
                  import 
                  sessionmaker 
                 
                  from 
                  sqlalchemy  
                  import 
                  create_engine 
                 
                  engine  
                  = 
                  create_engine( 
                  "mysql+mysqldb://root:123@127.0.0.1:3306/s11" 
                  , max_overflow 
                  = 
                  5 
                  ) 
                 
                  Base  
                  = 
                  declarative_base() 
                 
                  class 
                  User(Base): 
                 
                  __tablename__  
                  = 
                  'users' 
                 
                  id 
                  = 
                  Column(Integer, primary_key 
                  = 
                  True 
                  ) 
                 
                  name  
                  = 
                  Column(String( 
                  50 
                  )) 
                 
                  # 尋找Base的所有子類，按照子類的結構在數據庫中生成對應的數據表信息 
                 
                  # Base.metadata.create_all(engine) 
                 
                  Session  
                  = 
                  sessionmaker(bind 
                  = 
                  engine) 
                 
                  session  
                  = 
                  Session() 
                 
                  # ########## 增 ########## 
                 
                  # u = User(id=2, name='sb') 
                 
                  # session.add(u) 
                 
                  # session.add_all([ 
                 
                  #     User(id=3, name='sb'), 
                 
                  #     User(id=4, name='sb') 
                 
                  # ]) 
                 
                  # session.commit() 
                 
                  # ########## 刪除 ########## 
                 
                  # session.query(User).filter(User.id > 2).delete() 
                 
                  # session.commit() 
                 
                  # ########## 修改 ########## 
                 
                  # session.query(User).filter(User.id > 2).update({'cluster_id' : 0}) 
                 
                  # session.commit() 
                 
                  # ########## 查 ########## 
                 
                  # ret = session.query(User).filter_by(name='sb').first() 
                 
                  # ret = session.query(User).filter_by(name='sb').all() 
                 
                  # print ret 
                 
                  # ret = session.query(User).filter(User.name.in_(['sb','bb'])).all() 
                 
                  # print ret 
                 
                  # ret = session.query(User.name.label('name_label')).all() 
                 
                  # print ret,type(ret) 
                 
                  # ret = session.query(User).order_by(User.id).all() 
                 
                  # print ret 
                 
                  # ret = session.query(User).order_by(User.id)[1:3] 
                 
                  # print ret 
                 
                  # session.commit()

更多功能參見文檔，猛擊這里下載PDF

redis的兩種鏈接方式

免責聲明！

本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。

猜您在找 Python之路【第九篇】：Python操作 RabbitMQ、Redis、Memcache、SQLAlchemy Python自動化運維之17、Python操作 Memcache、Redis、RabbitMQ RabbitMQ、Memcache、Redis(隊列、緩存) Py西游攻關之RabbitMQ、Memcache、Redis python memcache操作-安裝、連接memcache python操作SQLAlchemy Python操作MySQL之SQLAlchemy Python操作SQLAlchemy Python操作MySQL之SQLAlchemy 【python】-- SQLAlchemy操作MySQL