Python菜鳥之路：Python操作MySQL-即pymysql/SQLAlchemy用法

上節介紹了Python對於RabbitMQ的一些操作，本節介紹Python對於MySQL的一些操作用法

模塊1：pymysql（等同於MySQLdb）

　　說明：pymysql與MySQLdb模塊的使用基本相同，學會pymysql，使用MySQLdb也就不是問題

安裝API模塊

pip install pymysql

執行

　　　　　　　　　　-->數據庫test中表t1的結構

import pymysql
# 創建連接
conn = pymysql.connect(host='172.25.50.13', port=3306, user='root', passwd='123456', db='test')
# 開啟自動提交SQL，如果這里不設置，以后的命令需要執行conn.commit()來提交執行，否則都在內存中
conn.autocommit(True)

# 創建游標
cur = conn.cursor()

# 執行普通SQL，並返回受影響行數
effect_row = cur.execute("insert into t1 values (1, 'Boss')")
print(effect_row) # out：1
#
# 執行帶占位符的SQL，並返回受影響行數
effect_row = cur.execute("insert into t1 values (2,'%s')" % "xiaodi")
print(effect_row) # out：1
#
# 執行多行數據的SQL，並返回受影響行數
effect_row = cur.executemany("insert into t1(id,name) values (%s, %s)" , [(3,'zhubajie'),(4,'sunwukong')])
print(effect_row) # out: 2

# 獲取最新自增ID，注意：如果該表的列是非自增類型的，則獲取到的數值為0
id = cur.lastrowid
print(id)  # out :4
cur.execute('select * from t1')

# 獲取第一行數據
row_1 = cur.fetchone()
print(row_1) # out:  (1, 'Boss')
# 獲取前n行數據
row_2 = cur.fetchmany(3)
print(row_2) # out: ((2, 'xiaodi'), (3, 'zhubajie'), (4, 'sunwukong'))
# 獲取所有數據
row_3 = cur.fetchall()
print(row_3) # out: ((1, 'Boss'), (2, 'xiaodi'), (3, 'zhubajie'), (4, 'sunwukong'))
# 提交
conn.commit()

# 關閉游標
cur.close()
# 關閉連接
conn.close()

注：在fetch數據時按照順序進行，可以使用cursor.scroll(num,mode)來移動游標位置，如：

cur.scroll(1,mode='relative') # 相對當前位置移動，數字1 也可以為負數，只是移動方向不同而已
cur.scroll(2,mode='absolute') # 相對絕對位置移動

 擴展：通過pymysql獲取Dict數據類型

　　從上邊的案例可以看出，pymysql獲取的結果，是以元組的形式輸出，對於不了解表結構的人來說，無疑不知道每個元素對應的列。

　　因此，如果想要或者字典類型的數據，需要創建游標的時候，設置返回的數據集類型，即：

# 游標設置為字典類型
cur = conn.cursor(cursor=pymysql.cursors.DictCursor)

 

模塊2：Python MySQL ORM框架--> SQLAlchemy

　　SQLAlchemy是Python編程語言下的一款ORM框架，該框架建立在數據庫API之上，使用關系對象映射進行數據庫操作，簡言之便是：將對象轉換成SQL，然后使用數據API執行SQL並獲取執行結果。

　　　　　　　　　　　　　　　　　　　　

　　說明：

　　SQLAchemy 本身無法操作數據庫，其本質上是依賴pymysql.MySQLdb,mssql等第三方插件。
　　Dialect用於和數據庫API進行交流，根據配置文件的不同調用不同的數據庫API，從而實現對數據庫的操作。

配置SQLAlchemy，使用不同API

MySQL-Python
    mysql+mysqldb://<user>:<password>@<host>[:<port>]/<dbname>
  
pymysql
    mysql+pymysql://<username>:<password>@<host>/<dbname>[?<options>]
  
MySQL-Connector
    mysql+mysqlconnector://<user>:<password>@<host>[:<port>]/<dbname>
  
cx_Oracle
    oracle+cx_oracle://user:pass@host:port/dbname[?key=value&key=value...]
  
更多詳見：http://docs.sqlalchemy.org/en/latest/dialects/index.html

普通使用

　　使用 Engine/ConnectionPooling/Dialect 進行數據庫操作：Engine使用ConnectionPooling連接數據庫，然后再通過Dialect執行SQL語句。

from sqlalchemy import create_engine
 
# 等效於創建游標
engine = create_engine("mysql+pymysql://root:123@127.0.0.1:3306/t1", max_overflow=5)

# 執行SQL
cur = engine.execute(
    "INSERT INTO hosts (host, color_id) VALUES ('1.1.1.22', 3)"
)

# 其余操作同游標操作一樣，就不一一列舉。

ORM功能使用

　　使用 ORM/Schema Type/SQL Expression Language/Engine/ConnectionPooling/Dialect 所有組件對數據進行操作。根據類創建對象，對象轉換成SQL，執行SQL。

創建表和刪除表

# sqlalchemy 創建表和刪除表、

from sqlalchemy.ext.declarative import declarative_base
from sqlalchemy import Column, Integer, String, ForeignKey, UniqueConstraint, Index
from sqlalchemy.orm import sessionmaker, relationship
from sqlalchemy import create_engine

# 創建連接
engine = create_engine("mysql+pymysql://root:123456@127.0.0.1:3306/test", max_overflow=5)

# 創建基類。這個是固定寫法，創建表必須這么寫
Base = declarative_base()

# 創建單表
class Users(Base):
    # 創建表
    __tablename__ = 'users'
    id = Column(Integer, primary_key=True)
    name = Column(String(32))
    extra = Column(String(16))
    # 創建聯合索引
    __table_args__ = (
    UniqueConstraint('id', 'name', name='uix_id_name'),
        Index('ix_id_name', 'name', 'extra'),
    )

# 一對多
class Favor(Base):
    __tablename__ = 'favor'
    nid = Column(Integer, primary_key=True)
    caption = Column(String(50), default='red', unique=True)


class Person(Base):
    __tablename__ = 'person'
    nid = Column(Integer, primary_key=True)
    name = Column(String(32), index=True, nullable=True)
    favor_id = Column(Integer, ForeignKey("favor.nid"))

# 多對多
class ServerToGroup(Base):
    __tablename__ = 'servertogroup'
    nid = Column(Integer, primary_key=True, autoincrement=True)
    server_id = Column(Integer, ForeignKey('server.id'))
    group_id = Column(Integer, ForeignKey('group.id'))

class Group(Base):
    __tablename__ = 'group'
    id = Column(Integer, primary_key=True)
    name = Column(String(64), unique=True, nullable=False)


class Server(Base):
    __tablename__ = 'server'

    id = Column(Integer, primary_key=True, autoincrement=True)
    hostname = Column(String(64), unique=True, nullable=False)
    port = Column(Integer, default=22)


def init_db():
    Base.metadata.create_all(engine)


def drop_db():
    Base.metadata.drop_all(engine) 

操作表

　　要想操作表，需要經過如下2個步驟

　　步驟1：創建session

Session = sessionmaker(bind=engine)
session = Session()

　　步驟2：執行SQL。這里需要注意，如果是新增的話，需要新建對象，如下

# 新增單條數據
obj = Users(name="guanyu", extra='hanjiang')
session.add(obj)
# 新增多條數據
session.add_all([
    Users(name="liubei", extra='leader'),
    Users(name="zhangfei", extra='xiaodi'),
])
session.commit()

　　　其他的SQL，僅需要執行session.query方法，進行相關操作即可

　　1）刪除表數據

# 刪除user表中id大於2的條目
session.query(Users).filter(Users.id > 2).delete()
session.commit()

　　2）修改表數據

# 更新user表中id大於2的name列為099
session.query(Users).filter(Users.id > 2).update({"name" : "099"})
# 更新user表中id大於2的name列，在原字符串后邊增加099
session.query(Users).filter(Users.id > 2).update({Users.name: Users.name + "099"}, synchronize_session=False)
# 更新user表中id大於2的num列，使最終值在原來數值基礎上加1
session.query(Users).filter(Users.id > 2).update({"num": Users.num + 1}, synchronize_session="evaluate") # 數字相加，必須設置synchronize_session="evaluate"
session.commit()

　　3）查詢數據

ret = session.query(Users).all() # 查詢所有
sql = session.query(Users) # 查詢生成的sql
print(sql)
ret = session.query(Users.name, Users.extra).all() #查詢User表的name和extra列的所有數據
ret = session.query(Users).filter_by(name='alex').all()  # 取全部name列為alex的數據
ret = session.query(Users).filter_by(name='alex').first() # 第一個匹配name列為alex的數據

Ps: ret是一個對象列表。這個對象可以通過 “對象[索引].字段”來獲取對應的值

　　4）其他

#　條件
ret = session.query(Users).filter_by(name='alex').all() #
ret = session.query(Users).filter(Users.id > 1, Users.name == 'eric').all() # 且的關系
ret = session.query(Users).filter(Users.id.between(1, 3), Users.name == 'eric').all()
ret = session.query(Users).filter(Users.id.in_([1,3,4])).all()
ret = session.query(Users).filter(~Users.id.in_([1,3,4])).all() # ~表示非。就是not in的意思
ret = session.query(Users).filter(Users.id.in_(session.query(Users.id).filter_by(name='eric'))).all() # 聯表查詢
from sqlalchemy import and_, or_   # 且和or的關系
ret = session.query(Users).filter(and_(Users.id > 3, Users.name == 'eric')).all() # 條件以and方式排列
ret = session.query(Users).filter(or_(Users.id < 2, Users.name == 'eric')).all() # 條件以or方式排列
ret = session.query(Users).filter(
    or_( #這部分表示括號中的條件都以or的形式匹配
        Users.id < 2, # 或者 or User.id < 2
        and_(Users.name == 'eric', Users.id > 3),# 表示括號中這部分進行and匹配
        Users.extra != ""
    )).all()


# 通配符
ret = session.query(Users).filter(Users.name.like('e%')).all()
ret = session.query(Users).filter(~Users.name.like('e%')).all() # 表示not like

# 限制 limit用法
ret = session.query(Users)[1:2] # 等於limit ，具體功能需要自己測試

# 排序
ret = session.query(Users).order_by(Users.name.desc()).all()
ret = session.query(Users).order_by(Users.name.desc(), Users.id.asc()).all() # 按照name從大到小排列，如果name相同，按照id從小到大排列

# 分組
from sqlalchemy.sql import func

ret = session.query(Users).group_by(Users.extra).all()
ret = session.query(
    func.max(Users.id),
    func.sum(Users.id),
    func.min(Users.id)).group_by(Users.name).all()

ret = session.query(
    func.max(Users.id),
    func.sum(Users.id),
    func.min(Users.id)).group_by(Users.name).having(func.min(Users.id) >2).all() # having對聚合的內容再次進行過濾

# 連表

ret = session.query(Users, Favor).filter(Users.id == Favor.nid).all()

ret = session.query(Person).join(Favor).all()
# 默認是inner join
ret = session.query(Person).join(Favor, isouter=True).all() # isouter表示是left join

# 組合
q1 = session.query(Users.name).filter(Users.id > 2)
q2 = session.query(Favor.caption).filter(Favor.nid < 2)
ret = q1.union(q2).all() #union默認會去重

q1 = session.query(Users.name).filter(Users.id > 2)
q2 = session.query(Favor.caption).filter(Favor.nid < 2)
ret = q1.union_all(q2).all() # union_all不去重

 

　　至此，SQLAlechemy模塊的基本使用介紹完畢