上节课,我介绍了 Python DB API 规范的作用,以及如何使用 MySQL 官方的 mysql-connector 驱动来完成数据库的连接和使用。在项目比较小的时候,我们可以直接使用 SQL 语句,通过 mysql-connector 完成与 MySQL 的交互,但是任何事物都有两面性,随着项目规模的增加,代码会越来越复杂,维护的成本也越来越高,这时 mysql-connector 就不够用了,我们需要更好的设计模式。
Python 还有另一种方式可以与 MySQL 进行交互,这种方式采用的是 ORM 框架。我们今天就来讲解如何使用 ORM 框架操作 MySQL,那么今天的课程你需要掌握以下几个方面的内容:
- 什么是 ORM 框架,以及为什么要使用 ORM 框架?
- Python 中的 ORM 框架都有哪些?
- 如何使用 SQLAlchemy 来完成与 MySQL 的交互?
我们为什么要使用 ORM 框架?
在讲解 ORM 框架之前,我们需要先了解什么是持久化。如下图所示,持久化层在业务逻辑层和数据库层起到了衔接的作用,它可以将内存中的数据模型转化为存储模型,或者将存储模型转化为内存中的数据模型。
你可能会想到,我们在讲事务的 4 大特性 ACID 时,提到过持久性。你可以简单地理解为,持久性就是将对象数据永久存储在数据库中。通常我们将数据库的作用理解为永久存储,将内存理解为暂时存储。我们在程序的层面操作数据,其实都是把数据放到内存中进行处理,如果需要数据就会通过持久化层,从数据库中取数据;如果需要保存数据,就是将对象数据通过持久化层存储到数据库中。
那么 ORM 解决的是什么问题呢?它提供了一种持久化模式,可以高效地对数据库进行访问。ORM 的英文是 Object Relation Mapping,中文叫对象关系映射。它是 RDBMS 和业务实体对象之间的一个映射,从图中你也能看到,它可以把底层的 RDBMS 封装成业务实体对象,提供给业务逻辑层使用。程序员往往关注业务逻辑层面,而不是底层数据库该如何访问,以及如何编写 SQL 语句获取数据等等。采用 ORM,就可以从数据库的设计层面转化成面向对象的思维。
我在开篇的时候提到过,随着项目规模的增大,在代码层编写 SQL 语句访问数据库会降低开发效率,也会提升维护成本,因此越来越多的开发人员会采用基于 ORM 的方式来操作数据库。这样做的好处就是一旦定义好了对象模型,就可以让它们简单可复用,从而不必关注底层的数据库访问细节,我们只要将注意力集中到业务逻辑层面就可以了。由此还可以带来另一点好处,那就是即便数据库本身进行了更换,在业务逻辑代码上也不会有大的调整。这是因为 ORM 抽象了数据的存取,同时也兼容多种 DBMS,我们不用关心底层采用的到底是哪种 DBMS,是 MySQL,SQL Server,PostgreSQL 还是 SQLite。
但没有一种模式是完美的,采用 ORM 当然也会付出一些代价,比如性能上的一些损失。面对一些复杂的数据查询,ORM 会显得力不从心。虽然可以实现功能,但相比于直接编写 SQL 查询语句来说,ORM 需要编写的代码量和花费的时间会比较多,这种情况下,直接编写 SQL 反而会更简单有效。
其实你也能看出来,没有一种方式是一劳永逸的,在实际工作中,我们需要根据需求选择适合的方式。Python 中的 ORM 框架都有哪些
ORM 框架帮我们适配了各种 DBMS,同时我们也可以选择不同的 ORM 框架。如果你用 Python 的话,有三种主流的 ORM 框架。
第一个是 Django,它是 Python 的 WEB 应用开发框架,本身走大而全的方式。Django 采用了 MTV 的框架模式,包括了 Model(模型),View(视图)和 Template(模版)。Model 模型只是 Django 的一部分功能,我们可以通过它来实现数据库的增删改查操作。
一个 Model 映射到一个数据表,如下图所示:
从这张图上你能直观地看到,ORM 的作用就是建立了对象关系映射。模型的每个属性代表数据表中的一个字段,我们通过操作类实例对象,对数据表中的数据行进行增删改查等操作。
第二个是 SQLALchemy,它也是 Python 中常用的 ORM 框架之一。它提供了 SQL 工具包及 ORM 工具,如果你想用支持 ORM 和支持原生 SQL 两种方式的工具,那么 SQLALchemy 是很好的选择。另外 SQLALchemy 的社区更加活跃,这对项目实施会很有帮助。
第三个是 peewee,这是一个轻量级的 ORM 框架,简单易用。peewee 采用了 Model 类、Field 实例和 Model 实例来与数据库建立映射关系,从而完成面向对象的管理方式。使用起来方便,学习成本也低。如何使用 SQLAlchemy 来操作 MySQL
下面我们来看下如何使用 SQLAlchemy 工具对 player 数据表进行增删改查,在使用前,你需要先安装相应的工具包:
复制代码
pip install sqlalchemy | pip install sqlalchemy | ||
---|---|---|---|
初始化数据库连接 | 初始化数据库连接 | ||
from sqlalchemy import create_engine | from sqlalchemy import create_engine | ||
# 初始化数据库连接,修改为你的数据库用户名和密码 | # 初始化数据库连接,修改为你的数据库用户名和密码 | ||
engine = create_engine(‘mysql+mysqlconnector://root:password@localhost:3306/wucai’) | engine = create_engine(‘mysql+mysqlconnector://root:password@localhost:3306/wucai’) |
create_engine 的使用方法类似我们在上篇文章中提到的 mysql.connector,都需要提供数据库 + 数据库连接框架,即对应的是mysql+mysqlconnector,后面的是用户名:密码@IP地址:端口号/数据库名称。
创建模型
我们已经创建了 player 数据表,这里需要创建相应的 player 模型。
复制代码
# 定义 Player 对象: | # 定义 Player 对象: | ||
---|---|---|---|
class Player(Base): | class Player(Base): | ||
# 表的名字: | # 表的名字: | ||
tablename = ‘player’ | tablename = ‘player’ | ||
# 表的结构: | # 表的结构: | ||
player_id = Column(Integer, primary_key=True, autoincrement=True) | player_id = Column(Integer, primary_key=True, autoincrement=True) | ||
team_id = Column(Integer) | team_id = Column(Integer) | ||
player_name = Column(String(255)) | player_name = Column(String(255)) | ||
height = Column(Float(3,2)) | height = Column(Float(3,2)) |
这里需要说明的是,tablename 指明了模型对应的数据表名称,即 player 数据表。同时我们在 Player 模型中对采用的变量名进行定义,变量名需要和数据表中的字段名称保持一致,否则会找不到数据表中的字段。在 SQLAlchemy 中,我们采用 Column 对字段进行定义,常用的数据类型如下:
除了指定 Column 的数据类型以外,我们也可以指定 Column 的参数,这些参数可以帮我们对对象创建列约束:
这里需要说明的是,如果你使用相应的数据类型,那么需要提前在 SQLAlchemy 中进行引用,比如:
复制代码
from sqlalchemy import Column, String, Integer, Float | from sqlalchemy import Column, String, Integer, Float | ||
---|---|---|---|
对数据表进行增删改查
假设我们想给 player 表增加一名新球员,姓名为“约翰·科林斯”,球队 ID 为 1003(即亚特兰大老鹰),身高为 2.08。代码如下:
复制代码
# 创建 DBSession 类型: | # 创建 DBSession 类型: | ||
---|---|---|---|
DBSession = sessionmaker(bind=engine) | DBSession = sessionmaker(bind=engine) | ||
# 创建 session 对象: | # 创建 session 对象: | ||
session = DBSession() | session = DBSession() | ||
# 创建 Player 对象: | # 创建 Player 对象: | ||
new_player = Player(team_id = 1003, player_name = “ 约翰 - 科林斯 “, height = 2.08) | new_player = Player(team_id = 1003, player_name = “ 约翰 - 科林斯 “, height = 2.08) | ||
# 添加到 session: | # 添加到 session: | ||
session.add(new_player) | session.add(new_player) | ||
# 提交即保存到数据库: | # 提交即保存到数据库: | ||
session.commit() | session.commit() | ||
# 关闭 session: | # 关闭 session: | ||
session.close() | session.close() |
这里,我们首先需要初始化 DBSession,相当于创建一个数据库的会话实例 session。通过 session 来完成新球员的添加。对于新球员的数据,我们可以通过 Player 类来完成创建,在参数中指定相应的team_id, player_name, height即可。
然后把创建好的对象 new_player 添加到 session 中,提交到数据库即可完成添加数据的操作。
接着,我们来看一下如何查询数据。
添加完插入的新球员之后,我们可以查询下身高 ≥ 2.08m 的球员都有哪些,代码如下:
复制代码
# 增加 to_dict() 方法到 Base 类中 | # 增加 to_dict() 方法到 Base 类中 | ||
---|---|---|---|
def to_dict(self): | def to_dict(self): | ||
return {c.name: getattr(self, c.name, None) | return {c.name: getattr(self, c.name, None) | ||
for c in self.table.columns} | for c in self.table.columns} | ||
# 将对象可以转化为 dict 类型 | # 将对象可以转化为 dict 类型 | ||
Base.to_dict = to_dict | Base.to_dict = to_dict | ||
# 查询身高 >=2.08 的球员有哪些 | # 查询身高 >=2.08 的球员有哪些 | ||
rows = session.query(Player).filter(Player.height >= 2.08).all() | rows = session.query(Player).filter(Player.height >= 2.08).all() | ||
print([row.to_dict() for row in rows]) | print([row.to_dict() for row in rows]) |
运行结果:
复制代码
[{‘player_id’: 10003, ‘team_id’: 1001, ‘player_name’: ‘安德烈 - 德拉蒙德’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10004, ‘team_id’: 1001, ‘player_name’: ‘索恩 - 马克’, ‘height’: Decimal(‘2.1600000000’)}, {‘player_id’: 10009, ‘team_id’: 1001, ‘player_name’: ‘扎扎 - 帕楚里亚’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10010, ‘team_id’: 1001, ‘player_name’: ‘乔恩 - 洛伊尔’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10011, ‘team_id’: 1001, ‘player_name’: ‘布雷克 - 格里芬’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10015, ‘team_id’: 1001, ‘player_name’: ‘亨利 - 埃伦森’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10023, ‘team_id’: 1002, ‘player_name’: ‘多曼塔斯 - 萨博尼斯’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10024, ‘team_id’: 1002, ‘player_name’: ‘迈尔斯 - 特纳’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10032, ‘team_id’: 1002, ‘player_name’: ‘TJ- 利夫’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10033, ‘team_id’: 1002, ‘player_name’: ‘凯尔 - 奥奎因’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10037, ‘team_id’: 1002, ‘player_name’: ‘伊凯·阿尼博古’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10038, ‘team_id’: 1003, ‘player_name’: ‘约翰 - 科林斯’, ‘height’: Decimal(‘2.0800000000’)}] | [{‘player_id’: 10003, ‘team_id’: 1001, ‘player_name’: ‘安德烈 - 德拉蒙德’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10004, ‘team_id’: 1001, ‘player_name’: ‘索恩 - 马克’, ‘height’: Decimal(‘2.1600000000’)}, {‘player_id’: 10009, ‘team_id’: 1001, ‘player_name’: ‘扎扎 - 帕楚里亚’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10010, ‘team_id’: 1001, ‘player_name’: ‘乔恩 - 洛伊尔’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10011, ‘team_id’: 1001, ‘player_name’: ‘布雷克 - 格里芬’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10015, ‘team_id’: 1001, ‘player_name’: ‘亨利 - 埃伦森’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10023, ‘team_id’: 1002, ‘player_name’: ‘多曼塔斯 - 萨博尼斯’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10024, ‘team_id’: 1002, ‘player_name’: ‘迈尔斯 - 特纳’, ‘height’: Decimal(‘2.1100000000’)}, {‘player_id’: 10032, ‘team_id’: 1002, ‘player_name’: ‘TJ- 利夫’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10033, ‘team_id’: 1002, ‘player_name’: ‘凯尔 - 奥奎因’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10037, ‘team_id’: 1002, ‘player_name’: ‘伊凯·阿尼博古’, ‘height’: Decimal(‘2.0800000000’)}, {‘player_id’: 10038, ‘team_id’: 1003, ‘player_name’: ‘约翰 - 科林斯’, ‘height’: Decimal(‘2.0800000000’)}] | ||
---|---|---|---|
如果我们对整个数据行进行查询,采用的是session.query(Player),相当于使用的是 SELECT *。这时如果我们想要在 Python 中对 query 结果进行打印,可以对 Base 类增加to_dict()方法,相当于将对象转化成了 Python 的字典类型。
在进行查询的时候,我们使用的是 filter 方法,对应的是 SQL 中的 WHERE 条件查询。除此之外,filter 也支持多条件查询。
如果是 AND 的关系,比如我们想要查询身高 ≥ 2.08,同时身高 ≤ 2.10 的球员,可以写成下面这样:
复制代码
rows = session.query(Player).filter(Player.height >=2.08, Player.height <=2.10).all() | rows = session.query(Player).filter(Player.height >=2.08, Player.height <=2.10).all() | ||
---|---|---|---|
如果是 OR 的关系,比如我们想要查询身高 ≥ 2.08,或者身高 ≤ 2.10 的球员,可以写成这样:
复制代码
rows = session.query(Player).filter(or_(Player.height >=2.08, Player.height <=2.10)).all() | rows = session.query(Player).filter(or_(Player.height >=2.08, Player.height <=2.10)).all() | ||
---|---|---|---|
这里我们使用了 SQLAlchemy 的 or 操作符,在使用它之前你需要进行引入,即:from sqlalchemy import or。
除了多条件查询,SQLAlchemy 也同样支持分组操作、排序和返回指定数量的结果。
比如我想要按照 team_id 进行分组,同时筛选分组后数据行数大于 5 的分组,并且按照分组后数据行数递增的顺序进行排序,显示 team_id 字段,以及每个分组的数据行数。那么代码如下:
复制代码
from sqlalchemy import func | from sqlalchemy import func | ||
---|---|---|---|
rows = session.query(Player.team_id, func.count(Player.player_id)).group_by(Player.team_id).having(func.count(Player.player_id)>5).order_by(func.count(Player.player_id).asc()).all() | rows = session.query(Player.team_id, func.count(Player.player_id)).group_by(Player.team_id).having(func.count(Player.player_id)>5).order_by(func.count(Player.player_id).asc()).all() | ||
print(rows) | print(rows) |
运行结果:
复制代码
[(1001, 20), (1002, 17)] | [(1001, 20), (1002, 17)] | ||
---|---|---|---|
这里有几点需要注意:
- 我们把需要显示的字段 Player.team_id, func.count(Player.player_id) 作为 query 的参数,其中我们需要用到 sqlalchemy 的 func 类,它提供了各种聚集函数,比如 func.count 函数。
- 在 query() 后面使用了 group_by() 进行分组,参数设置为 Player.team_id 字段,再使用 having 对分组条件进行筛选,参数为func.count(Player.player_id)>5。
- 使用 order_by 进行排序,参数为func.count(Player.player_id).asc(),也就是按照分组后的数据行数递增的顺序进行排序,最后使用.all() 方法需要返回全部的数据。
你能看到 SQLAlchemy 使用的规则和使用 SELECT 语句的规则差不多,只是封装到了类中作为方法进行调用。
接着,我们再来看下如何删除数据。如果我们想要删除某些数据,需要先进行查询,然后再从 session 中把这些数据删除掉。
比如我们想要删除姓名为约翰·科林斯的球员,首先我们需要进行查询,然后从 session 对象中进行删除,最后进行 commit 提交,代码如下:
复制代码
row = session.query(Player).filter(Player.player_name==’约翰 - 科林斯’).first() | row = session.query(Player).filter(Player.player_name==’约翰 - 科林斯’).first() | ||
---|---|---|---|
session.delete(row) | session.delete(row) | ||
session.commit() | session.commit() | ||
session.close() | session.close() |
需要说明的是,判断球员姓名是否为约翰·科林斯,这里需要使用(==)。
同样,如果我们想要修改某条数据,也需要进行查询,然后再进行修改。比如我想把球员索恩·马克的身高改成 2.17,那么执行完之后直接对 session 对象进行 commit 操作,代码如下:
复制代码
row = session.query(Player).filter(Player.player_name==’索恩 - 马克’).first() | row = session.query(Player).filter(Player.player_name==’索恩 - 马克’).first() | ||
---|---|---|---|
row.height = 2.17 | row.height = 2.17 | ||
session.commit() | session.commit() | ||
session.close() | session.close() |
总结
今天我们使用 SQLAlalchemy 对 MySQL 进行了操作,你能看到这些实现并不复杂,只是需要事先掌握一些使用方法,尤其是如何创建 seesion 对象,以及如何通过 session 对象来完成对数据的增删改查等操作。建议你把文章里的代码都跑一遍,在运行的过程中一定会有更深入的体会。
当然除了学习掌握 SQLAlalchemy 这个 Python ORM 工具以外,我还希望你能了解到 ORM 的价值和不足。如果项目本身不大,那么自己动手写 SQL 语句会比较简单,你可以不使用 ORM 工具,而是直接使用上节课讲到的 mysql-connector。但是随着项目代码量的增加,为了在业务逻辑层与数据库底层进行松耦合,采用 ORM 框架是更加适合的。
我今天讲解了 SQLAlalchemy 工具的使用,为了更好地让你理解,我出一道练习题吧。还是针对 player 数据表,请你使用 SQLAlalchemy 工具查询身高为 2.08 米的球员,并且将这些球员的身高修改为 2.09。