当前位置:首页 > 文章列表 > 数据库 > MySQL > MySQL SKIP LOCKED 批量领取任务的并发边界

MySQL SKIP LOCKED 批量领取任务的并发边界

来源:17golang原创 2026-11-13 12:24:57 0浏览 收藏

我在把一张待处理表改成多消费者任务队列时,最容易误判的是:SKIP LOCKED 能减少互相等待,却不会自动保证“每个任务只处理一次”、也不会让查询结果保持完整一致。正确用法是把它限定在短事务里,用行锁暂时占住任务,再把领取状态和租约一起写回。

SELECT ... FOR UPDATE SKIP LOCKED 适合“谁先拿到谁处理”的队列式抢占:已被其他事务锁住的行直接从本次结果中排除。要控制重复领取和宕机恢复,必须继续设计状态、租约、重试次数和提交边界。

官方地址:https://dev.mysql.com/doc/refman/8.4/en/innodb-locking-reads.html

下面只讨论 InnoDB 任务表中的批量领取,不把它扩展成通用的并发控制方案。MySQL 手册明确说明,跳过锁定行会得到不一致视图,适合队列类访问,不适合需要完整结果的事务查询。

先把“跳过锁”理解准确

普通的 FOR UPDATE 在遇到别的事务已经锁住的行时会等待;加上 SKIP LOCKED 后,当前查询不会等待,而是把这些行从结果集中排除。它只对行级锁有效,而且锁会持续到当前事务提交或回滚。

MySQL SKIP LOCKED 在任务队列中连接消费者、行锁和待处理任务的静态结构图
图1:结构说明图,查看消费者、任务行锁与可领取集合之间的边界;这不是运行截图或执行证据。

因此,两个消费者可能分别看到任务 101、102 和任务 103、104,但某些行被占用时,本轮结果会少于 LIMIT。应用层不能把“返回不足一批”误判成队列彻底空了,更不能用一次查询结果推断全表状态。

领取动作要放在同一段短事务里

一个实用的表至少需要状态、可领取时间和租约时间。领取时先按稳定顺序挑选待处理行,再在同一事务中改成 processing 并写入 lease_until。事务提交后,其他消费者才会看到这批任务已经被占用。

-- 表结构示意:状态和租约用于识别可重试任务
CREATE TABLE job_queue (
    id BIGINT PRIMARY KEY,
    payload JSON NOT NULL,
    status VARCHAR(16) NOT NULL,
    available_at DATETIME NOT NULL,
    lease_until DATETIME NULL,
    attempts INT NOT NULL DEFAULT 0,
    KEY idx_claim (status, available_at, id)
) ENGINE = InnoDB;

-- 领取与改状态必须属于同一个事务,避免读完后才加锁
START TRANSACTION;

SELECT id, payload
FROM job_queue
WHERE status = 'ready'
  AND available_at 

示例中的 UPDATE 不能把“符合条件的前 20 行”重新猜一遍来代替选中集合,否则第二次语句可能遇到不同的可见行。工程实现通常会先把 id 读到应用内,再用参数化的主键集合更新;如果驱动支持在同一事务中读取并更新,也要保持事务边界不变。

批量领取时,四个边界最容易出问题

边界实际影响处理方式
返回数量锁定行被跳过后可能少于 LIMIT把空批次当作“本轮没有可见任务”,按退避重试
排序与索引扫描范围不稳定会让领取顺序难以预期使用 available_at、id 的稳定排序和匹配索引
提交时机处理业务期间长时间持锁会放大冲突领取事务只做选取和状态变更,处理逻辑放到提交后
消费者崩溃任务可能停留在 processing用 lease_until 定期回收,并限制 attempts
MySQL 任务队列表、状态字段、租约字段和消费者处理边界的静态关系图
图2:关系说明图,查看 ready、processing、lease_until、attempts 与消费者之间的静态关系;这不是运行截图或运行结果。

尤其要注意处理时间和锁持有时间不是一回事。消费者拿到任务后,如果一直在事务里调用外部接口,数据库锁会随外部延迟持续存在,其他消费者只能不断跳过这批行。更稳妥的做法是提交领取事务,随后在处理完成时用带条件的更新确认自己仍持有这次租约。

用租约和幂等把失败变成可恢复

任务处理成功后,可以用 WHERE id = ? AND status = 'processing' AND lease_until >= NOW() 这样的条件更新为 done;超时扫描则把过期的 processing 任务重新放回 ready,同时增加重试记录。这样即使消费者在提交前退出,也有机会被下一轮重新领取。

-- 处理完成时只确认仍在本次租约内的任务
UPDATE job_queue
SET status = 'done', lease_until = NULL
WHERE id = ?
  AND status = 'processing'
  AND lease_until >= NOW();

-- 定时回收过期租约;生产环境还应结合最大重试次数和失败原因
UPDATE job_queue
SET status = 'ready', lease_until = NULL
WHERE status = 'processing'
  AND lease_until 

租约只能降低“永久卡住”的概率,不能替代业务幂等。外部副作用可能已经完成,但消费者还没来得及把状态改成 done,任务重试后仍可能再次调用外部系统,所以订单号、请求号或业务唯一键应参与幂等设计。

哪些查询不该使用 SKIP LOCKED

如果读者需要完整的库存、余额、报表或校验结果,跳过锁定行会让结果缺少一部分数据,此时不应把它当成“更快的普通查询”。它也不适合用来证明所有任务都已被扫描,因为被跳过的行在当前结果中根本不存在。

另外,MySQL 手册提示使用 NOWAIT 或 SKIP LOCKED 的语句对基于语句的复制并不安全。上线前应结合复制方式、事务隔离级别、索引和故障恢复策略评估;文章中的方案只适合作为 InnoDB 队列式抢占的设计起点。

常见问题

为什么一次只拿到 12 条而不是 LIMIT 20? 另外的任务行可能正被其他事务锁住,SKIP LOCKED 会直接跳过它们;应用应按空批或小批处理,而不是强行补齐。

领取后能不能一直不提交? 不建议。事务持续时间越长,锁越久,其他消费者越容易频繁跳过同一批任务;领取、改状态、提交应尽量短。

SKIP LOCKED 能保证任务只执行一次吗? 不能。它解决的是领取时的等待竞争,不能覆盖消费者崩溃、超时重试和外部副作用,仍需要租约与幂等。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
MySQL 存储过程 DEFINER 账号失效时怎样恢复执行权限MySQL 存储过程 DEFINER 账号失效时怎样恢复执行权限
上一篇
MySQL 存储过程 DEFINER 账号失效时怎样恢复执行权限
MySQL 事务中使用 SAVEPOINT 后怎样只回滚部分写入
下一篇
MySQL 事务中使用 SAVEPOINT 后怎样只回滚部分写入
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    1010次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    1014次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    1139次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    1111次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    955次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码