MySQL for update skip locked 与 for update nowait

理论(下方有实操)

for update skip locked

  • 官方文档:https://dev.mysql.com/doc/refman/8.0/en/innodb-locking-reads.html#innodb-locking-reads-for-update
  • 语法:select语句后跟 for update skip locked
  • 作用:目标对象没有被其它会话加锁则可加锁,被其它会话加了锁就跳过。
  • 解决问题:用来避免锁资源竞争引起的阻塞。
  • 适用场景:
    • 多用于MySQL作为消息队列的存储组件,特别是消费者数量>1的场景,多个worker进程同时检测任务队列中的任务,确保每个任务只被一个worker处理,同时其它worker不会被阻塞(这里的worker进程,可以是不断循环查询队列任务的过程,用毫秒级到分钟级的死循环检测表里是否有要处理的队列任务,加锁是为了避免多个消费者同时处理同一个队列任务引发的并发问题)。
    • 换句话说:加锁的目的是为了避免多个消费者同时消费相同的数据造成重复消费,加skip locked的目的是为了保证其它进程 每次扫描到加锁的数据时跳开,避免因排它锁阻塞,保证探测任务快速执行。
  • 坑:
    • 不适用与并发条件下加锁保证数据不出错的场景,因为它遇见目标数据加锁就跳过。(MySQL官方文档原文:Queries that skip locked rows return an inconsistent view of the data. SKIP LOCKED is therefore not suitable for general transactional work. However, it may be used to avoid lock contention when multiple sessions access the same queue-like table.)。
    • 它能跳过仅仅是它能跳过,不代表没加skip locked的X或S锁遇见这个锁不会发生阻塞。
    • MySQL8才有的特性,5.7会报错:You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'skip locked' at line 1。

nowait

  • 官方文档:https://dev.mysql.com/doc/refman/8.0/en/innodb-locking-reads.html#innodb-locking-reads-for-update
  • 语法:select语句后跟 nowait。
  • 作用:目标对象没有被其它会话加锁则可加锁,被其它会话加了锁则返回异常。
  • 解决问题:用来避免锁资源竞争引起的阻塞。
  • 适用场景:类似于skip locked,但应用场景不多,因为MySQL返回的异常,可能会升级为编程语言调用时的报错。
  • 坑:MySQL8才有的特性,5.7会报错:You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'nowait' at line 1。

No BB,Show Code

成品用例

  • 以消息队列表为例,这是一个标准的支持多渠道,多生产者,多消费者队列和延时队列的任务记录表(记录失败的任务表需要另创建,本文略)。

    sql
    CREATE TABLE `jobs` (
    `id` bigint unsigned NOT NULL AUTO_INCREMENT,
    `queue` varchar(255) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci NOT NULL COMMENT '不同渠道队列执行的优先级,可以是high,default,low等。',
    `payload` longtext CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci NOT NULL COMMENT '队列进程所需要的数据,序列化后的json字符串,包含了框架所需要的序列化数据和业务数据。',
    `attempts` tinyint unsigned NOT NULL COMMENT '记录任务已经被尝试执行的次数。每次任务失败后,attempts的值会递增。当attempts达到设定的最大重试次数时,任务将被标记为失败。',
    `reserved_at` int unsigned DEFAULT NULL COMMENT '表示任务被锁定(reserved)的时间戳。当一个worker开始处理任务时,任务会被锁定,以防止其它 worker同时处理相同的任务。reserved_at存储的是记录被锁定时的时间戳。',
    `available_at` int unsigned NOT NULL COMMENT '记录任务应该变为可执行状态的时间戳。将任务推送到队列时,可以选择延迟任务的执行时间。',
    `created_at` int unsigned NOT NULL COMMENT '队列被创建的时间戳。',
    PRIMARY KEY (`id`) USING BTREE,
    KEY `jobs_queue_index` (`queue`) USING BTREE
    ) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_unicode_ci ROW_FORMAT=DYNAMIC;

  • 添加三条模拟数据,新增了3个队列任务

    sql
    INSERT INTO `jobs` (`id`, `queue`, `payload`, `attempts`, `reserved_at`, `available_at`, `created_at`) VALUES (1, 'default', '这里是要被处理的任务:xxxxx', 1, NULL, 1735097169, 1735097169);
    INSERT INTO `jobs` (`id`, `queue`, `payload`, `attempts`, `reserved_at`, `available_at`, `created_at`) VALUES (2, 'default', '这里是要被处理的任务:xxxxx', 1, NULL, 1735097179, 1735097179);
    INSERT INTO `jobs` (`id`, `queue`, `payload`, `attempts`, `reserved_at`, `available_at`, `created_at`) VALUES (3, 'default', '这里是要被处理的任务:xxxxx', 1, NULL, 1735097189, 1735097189);

  • 队列在无任务执行时的扫描任务,SQL是这样的,找到符合条件的数据后更新reserved_at字段为当前时间,并使用worker进程执行队列任务。

    sql
    select * from `jobs` where `queue` = 'high' and ((`reserved_at` is null and `available_at` <= 1735097879) or (`reserved_at` <= 1735094259)) order by `id` asc limit 1 FOR UPDATE SKIP LOCKED select * from `jobs` where `queue` = 'default' and ((`reserved_at` is null and `available_at` <= 1735097879) or (`reserved_at` <= 1735094259)) order by `id` asc limit 1 FOR UPDATE SKIP LOCKED select * from `jobs` where `queue` = 'low' and ((`reserved_at` is null and `available_at` <= 1735097879) or (`reserved_at` <= 1735094259)) order by `id` asc limit 1 FOR UPDATE SKIP LOCKED

for update skip locked用法

证明跳过被锁定的行

步骤 会话1 会话2 说明
1 start transaction; start transaction; 双方开启事务
2 select * from jobs where queue = 'default' and ((reserved_at is null and available_at <= 1735097879) or (reserved_at <= 1735094259)) order by id asc limit 1 FOR UPDATE SKIP LOCKED / 会话1返回id为1的数据
3 / select * from jobs where queue = 'default' and ((reserved_at is null and available_at <= 1735097879) or (reserved_at <= 1735094259)) order by id asc limit 1 FOR UPDATE SKIP LOCKED 会话2返回id为2的数据,直接跳过加锁的1
4 update jobs set reserved_at = UNIX_TIMESTAMP() where id = 1; update jobs set reserved_at = UNIX_TIMESTAMP() where id = 2; 将找到的任务标记为队列正在处理
5 commit; commit; 提交事务,结束流程

nowait用法

证明锁定相同范围的数据会报错。

步骤 会话1 会话2 说明
1 start transaction; start transaction; 双方开启事务
2 select * from jobs where id = 3 FOR UPDATE nowait; / 可正常加锁
3 / select * from jobs where id = 3 FOR UPDATE nowait; 报错:3572 - Statement aborted because lock(s) could not be acquired immediately and NOWAIT is set.
4 commit; commit; 提交事务,结束流程

文章整理自互联网,只做测试使用。发布者:Lomu,转转请注明出处:https://www.it1024doc.com/4781.html

(0)
LomuLomu
上一篇 2024 年 12 月 28 日 下午6:36
下一篇 2024 年 12 月 28 日 下午7:37

相关推荐

  • 基于ABP框架与Entity Framework(非Core版)和MySQL的大数据分页查询优化方案

    在利用ABP框架整合Entity Framework(非Core版)和MySQL处理海量数据分页查询时,需要针对MySQL的特性与EF的分页功能进行深度优化。以下为详细的实现策略与技术要点: 一、摒弃传统分页方式传统的Skip().Take()方法在EF中会被转换为LIMIT OFFSET语法,当处理百万级数据时性能表现极差。优化方案包括:1. 主键/唯一键…

    未分类 2025 年 5 月 11 日
    14800
  • Java 技术全景 —— 运用 Java 实现城市交通大数据可视化分析与智能治理方案(191)

    ✨尊敬的读者朋友们,诚挚欢迎您访问【智汇科技园】!在这个数字化浪潮奔涌的时代,我们致力于打造一个融合创新技术与实践应用的交流平台。本博客将持续为您呈现前沿技术解析与实战案例,期待与您共同探索科技发展的无限可能!✨全网平台(微信公众号/CSDN/抖音/华为/支付宝/微博):智汇科技一、欢迎加入【技术精英圈】快速加入通道1:【智汇技术精英社群(最新)】快速加入通…

    2025 年 5 月 11 日
    10800
  • 在不同操作系统上安装 PostgreSQL

    title: 在不同操作系统上安装 PostgreSQLdate: 2024/12/26updated: 2024/12/26author: cmdragon excerpt:PostgreSQL 是当今最受欢迎的开源关系数据库管理系统之一,由于其强大的功能和灵活性,广泛应用于不同的行业和应用场景。在开始使用 PostgreSQL 之前,用户需要了解如何在不…

    2024 年 12 月 30 日
    28000
  • Java 技术新纪元 —— 基于 Java 的联邦学习技术推动跨行业数据协同创新(238)

    🌟亲爱的技术爱好者们,诚挚欢迎访问【青云交的技术天地】!在这个数字化浪潮席卷全球的时代,我们相聚于此共同探索前沿科技。这里不仅是知识分享的平台,更是思想碰撞的舞台,期待与您携手共创技术新篇章!🌟全网平台(微信公众号/CSDN/抖音/华为/支付宝/微博):青云交一、加入【技术精英社群】快速加入通道1:【青云交技术精英圈】快速加入通道2:【CSDN 技术创作交流…

    2025 年 5 月 12 日
    10100
  • 深入解析 Spring AI 系列:以OpenAI与Moonshot案例为例寻找共同点

    今天,我们将重点探讨对接的业务逻辑。为了帮助大家更直观地掌握其中的规律性,我将通过对比OpenAI与《月之暗面》中的Moonshot两个案例来阐述这一点。通过这样的对比,大家可以更清晰地看到,这些对接业务的整体框架其实非常相似。换句话说,我们要做的工作只是其中的一小部分,但它同样是关键的一环。 好了,接下来我们就开始深入了解这个话题。 模型对接 我们首先需要…

    2025 年 1 月 11 日
    42900

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信