解决MySQL死锁:策略与最佳实践
诊断MySQL死锁,减少锁冲突,并为可重试的事务添加安全的重试逻辑。
解决MySQL死锁:策略与最佳实践
MySQL死锁发生在事务相互阻塞形成循环时。InnoDB检测到循环并回滚一个事务,以便另一个事务可以继续。这种自动回滚很有帮助,但并不能使问题无害。应用程序仍然会看到错误,用户操作可能失败,重复的死锁可能将正常的流量高峰转变为支持事件。
在繁忙的事务系统中,偶尔出现一次死锁并不罕见。持续不断的死锁则是一个信号。通常意味着事务过于宽泛,行锁定的顺序不一致,或者查询扫描的数据超出了必要范围。
理解MySQL死锁
在现代MySQL工作中,死锁故障排查通常意味着InnoDB,因为它是默认的事务引擎,并使用行锁、索引锁、间隙锁和下一键锁。其他引擎可能会以不同的方式阻塞、超时或序列化写入,但InnoDB是大多数应用程序死锁事件出现的地方。
死锁循环
死锁通常遵循以下模式:
- 事务A 获取资源X上的锁。
- 事务B 获取资源Y上的锁。
- 事务A 尝试获取资源Y上的锁,但因为B持有它而必须等待。
- 事务B 尝试获取资源X上的锁,但因为A持有它而必须等待。
此时,两个事务都无法继续。InnoDB检测到这个等待循环并回滚一个事务,通常称为死锁牺牲者。应用程序通常收到SQL错误代码1213(ER_LOCK_DEADLOCK)。整个事务都消失了,而不仅仅是最后一条语句,因此重试逻辑必须从头开始重新运行事务。
死锁的常见原因
死锁通常源于糟糕的事务设计或低效的查询:
- 长时间运行的事务: 长时间持有锁的事务会显著增加冲突的可能性。
- 操作顺序不一致: 两个事务更新同一组行或表,但顺序不同。
- 缺少或低效的索引: 当索引缺失或选择性不足时,InnoDB可能会检查并锁定比应用程序预期多得多的索引记录或范围,从而增加锁定表面积。
- 高并发: 自然,对相同数据集的大量同时写入会增加冲突的可能性。
诊断和分析死锁
当死锁发生时,第一步是识别涉及的事务以及它们持有的特定锁。MySQL中的主要诊断工具是SHOW ENGINE INNODB STATUS。
使用SHOW ENGINE INNODB STATUS
运行以下命令并检查输出,特别查找LATEST DETECTED DEADLOCK部分。
SHOW ENGINE INNODB STATUS\G
LATEST DETECTED DEADLOCK输出提供了关键的法医数据,详细说明了:
- 涉及的事务(ID、状态和持续时间)。
- 死锁发生时牺牲者正在执行的SQL语句。
- 正在等待的特定行和索引。
- 阻塞事务持有的资源。
提示: 日志解析工具可以自动提取和分类这些死锁条目,这些条目也经常写入MySQL错误日志。
对于重复发生的事件,捕获多个样本。SHOW ENGINE INNODB STATUS显示最新检测到的死锁,因此新的死锁可能会覆盖之前的证据。在死锁频繁的系统上,如果您的MySQL版本和操作策略允许,请启用死锁记录到错误日志:
SET GLOBAL innodb_print_all_deadlocks = ON;
不要不考虑日志量就启用额外的日志记录。它在事件期间很有用,但嘈杂的系统可能会产生大量日志数据。
当您阅读死锁报告时,在更改代码之前查找三件事:
- 涉及哪些SQL语句?
- 使用了哪些索引?
- 事务是否以不同的顺序锁定了相同的资源?
最后一个问题通常最能揭示问题。如果一个代码路径更新accounts然后更新ledger_entries,而另一个更新ledger_entries然后更新accounts,那么修复方法可能不是服务器设置。修复方法是同意一个顺序。
一个实用的技巧是将两个事务粘贴到草稿笔记中,并标记每个可以锁定行的语句:UPDATE、DELETE、INSERT到具有唯一键的表、SELECT ... FOR UPDATE以及一些外键检查。当您不再关注单个失败的查询,而是查看其周围的完整序列时,死锁通常变得显而易见。
预防策略1:优化事务
预防死锁最有效的方法是减少锁的持有时间并标准化资源的访问方式。
1. 保持事务简短和原子性
一个事务应该只封装绝对必要的操作。事务运行时间越长,它持有的锁就越久,冲突的可能性就越高。
- 不良实践: 在一个长事务中获取数据、在应用程序层执行复杂的业务逻辑,然后更新数据。
- 最佳实践: 在事务外部执行业务逻辑。事务应该只包括
SELECT FOR UPDATE、更新/插入和COMMIT步骤。
例如,不要打开一个事务然后调用支付提供商、发送电子邮件或等待远程API。这些操作可能需要数百毫秒或几秒钟,在此期间您的数据库锁仍然被持有。首先计算您可以计算的内容,然后为必须原子化的最小读写集合打开事务。
2. 标准化资源访问顺序
这可能是最关键的一个预防策略。如果与两个特定表(例如orders和inventory)交互的每一段代码都始终尝试以相同的顺序锁定表(或行)(例如,先orders后inventory),那么循环依赖就不可能发生。
| 事务A | 事务B |
|---|---|
| 锁定表X | 锁定表Y |
| 锁定表Y | 锁定表X (死锁风险) |
如果两个事务都遵循顺序(先X后Y),事务B只需等待A完成,从而防止死锁。
这也适用于行。如果转账在两个账户之间移动资金,始终先锁定较小的账户ID,然后锁定较大的账户ID:
START TRANSACTION;
SELECT account_id, balance
FROM accounts
WHERE account_id IN (100, 200)
ORDER BY account_id
FOR UPDATE;
-- 应用借方和贷方
COMMIT;
如果没有一致的顺序,两个相反方向的同时转账可能会死锁:一个锁定账户100,而另一个锁定账户200,然后每个都等待另一行。
3. 策略性地使用SELECT FOR UPDATE
当读取稍后将在同一事务中立即修改的数据时,请使用SELECT FOR UPDATE立即获取排他锁。这可以防止第二个事务在您的读取和写入之间更改同一行。它不会神奇地消除死锁;它使锁定显式化,以便您可以控制顺序和时机。
-- 立即获取指定行的锁
SELECT amount FROM accounts WHERE user_id = 123 FOR UPDATE;
-- 在应用程序中执行计算
UPDATE accounts SET amount = new_amount WHERE user_id = 123;
COMMIT;
预防策略2:索引和查询调优
索引不良是常见的根本原因,因为它迫使InnoDB锁定比必要更多的行。
1. 确保查询使用索引进行锁定
当MySQL需要根据WHERE子句定位行时,它会锁定与条件匹配的索引记录。如果没有合适的索引,InnoDB可能会执行全表扫描并锁定整个表(或大范围),即使只需要几行。
- 确保用于查找要更新、删除、连接和范围扫描的行的列具有适当的索引。
- 验证外键是否已索引。
在死锁报告中显示的语句上使用EXPLAIN:
EXPLAIN UPDATE orders
SET status = 'paid'
WHERE user_id = 42 AND status = 'pending';
如果MySQL扫描表的大部分来更新少量行,它可能会持有您意想不到的锁。像(user_id, status)这样的复合索引可能会缩小扫描范围。正确的索引取决于您的实际查询模式和数据分布,因此请使用EXPLAIN和类似生产环境的数据进行确认。
2. 最小化间隙锁
在默认的REPEATABLE READ隔离级别下,InnoDB使用间隙锁(索引记录之间范围的锁)来防止幻读。虽然对一致性至关重要,但这些锁在范围重叠时通常是死锁的原因。
如果您正在处理高并发写入操作并且可以容忍不同的读取行为,请考虑将特定会话的隔离级别更改为READ COMMITTED。
SET TRANSACTION ISOLATION LEVEL READ COMMITTED;
警告: 全局或随意更改隔离级别可能会引入您的应用程序未预料到的行为,例如不可重复读。仅在理解并测试了风险的情况下使用
READ COMMITTED。
解决策略:应用程序端重试逻辑
即使采用最佳的预防策略,在极端负载下偶尔也可能发生死锁。由于InnoDB会自动回滚牺牲者,应用程序必须设计为优雅地处理此错误。
MySQL使用SQL错误代码1213(ER_LOCK_DEADLOCK)报告死锁。
实现事务重试
应用程序应捕获错误1213,并在操作安全可重试时重试整个事务。重试必须从START TRANSACTION开始;不要只重新运行失败的语句。
- 捕获错误1213: 数据库连接器应识别死锁错误。
- 等待: 在重试之前引入一个短暂的随机退避时间,以给阻塞事务提交的时间。
- 重试: 再次尝试完整的事务序列。
- 限制重试次数: 实现最大重试次数(例如3到5次),然后才使用户请求失败,以防止无限循环。
MAX_RETRIES = 5
for attempt in range(MAX_RETRIES):
try:
db_connection.execute("START TRANSACTION")
# ... 复杂的数据库操作 ...
db_connection.execute("COMMIT")
break # 成功
except DeadlockError:
if attempt < MAX_RETRIES - 1:
time.sleep(0.1 * (attempt + 1)) # 指数退避
continue
else:
raise DatabaseFailure("由于持续死锁,事务失败。")
小心触发外部影响的事务。如果事务发送电子邮件、扣款、发布消息或调用其他服务,盲目重试可能会重复该副作用。在这些情况下,使用幂等键或将副作用移到数据库事务提交之后。
高级设置和最佳实践
调整锁等待超时
MySQL有一个设置,定义事务在放弃之前应等待锁多长时间:
SET GLOBAL innodb_lock_wait_timeout = 50; -- 最多等待50秒
将innodb_lock_wait_timeout设置得太低可能会导致事务在正常争用期间失败。设置得太高可能会使用户请求等待的时间超过您的应用程序可以容忍的时间。此设置处理锁等待,而不是死锁检测本身,因此不要将其视为主要的死锁修复方法。
最佳实践总结
| 领域 | 最佳实践 |
|---|---|
| 事务设计 | 保持事务简短,快速执行,并立即提交或回滚。 |
| 锁定顺序 | 在整个应用程序中建立严格、标准化的访问和锁定行/表的顺序。 |
| 索引 | 确保用于查找或更新的所有列都正确索引,以有效利用行级锁定。 |
| 诊断 | 定期检查SHOW ENGINE INNODB STATUS输出和MySQL错误日志,以发现重复的死锁模式。 |
| 应用程序处理 | 在应用程序层实现健壮的重试逻辑,以优雅地处理SQL错误1213。 |
实用的调试流程
当生产死锁警报触发时,一个有用的流程是:
- 在死锁报告被覆盖之前捕获它。
- 识别两个语句和涉及的索引。
- 重建每个语句周围的事务,而不仅仅是单个查询。
- 检查代码路径是否以不同的顺序锁定行或表。
- 运行
EXPLAIN,如果扫描范围比预期的宽,则添加或调整索引。 - 确保存在安全、幂等事务的重试逻辑。
死锁是并发事务系统的一部分,但重复的死锁通常是可以修复的。更短的事务、一致的锁定顺序、更好的索引和仔细的重试逻辑比随机调整服务器变量更有益。