MySQL去除“关联表”重复数据,以建立联合唯一索引
亲爱的编程学习爱好者,如果你点开了这篇文章,说明你对《MySQL去除“关联表”重复数据,以建立联合唯一索引》很感兴趣。本篇文章就来给大家详细解析一下,主要介绍一下MySQL、Mysql索引、联合索引、去重复、唯一,希望所有认真读完的童鞋们,都有实质性的提高。
表名thread_recommend,帖子推荐表,为两个实体
user_id和
thread_id的(推荐)关系表,表结构很简单如下:
/*用户推荐帖子记录表*/ CREATE TABLE `thread_recommend` ( `id` int(11) NOT NULL AUTO_INCREMENT, `thread_id` int(11) DEFAULT NULL COMMENT '被用户推荐的帖子编号', `user_id` int(11) DEFAULT NULL COMMENT '推荐该帖子的用户编号', `status` int(11) DEFAULT '1' COMMENT '状态0 取消推荐,1推荐', `created` TIMESTAMP NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '推荐时间', PRIMARY KEY (`id`), KEY `userid` (`user_id`) USING BTREE ) ENGINE=InnoDB;
问题在于,由于代码不规范,在高并发时(或数据库压力大时造成的延时积压时)会出现多个(相同thread_id和user_id的)组合,如下:

之后你们懂的,各种和原想不一致的神奇bug喷涌而出,比如:
我刚刚取消了推荐,怎么还显示我推荐着!!
显示的总推荐数怎么和实际推荐用户加起来不一样!!
解决方案一:使用insert where not exists
语句
声明:此方案并不是最佳方案,不推荐使用。
先上代码:(这里拿另一个关系表的真实query举例,原理一样)
INSERT INTO `user_topic` (`user_id`, `topic_id`) SELECT :userId, :topicid FROM `user_topic` WHERE NOT EXISTS (SELECT * FROM `user_topic` WHERE `user_topic`.`user_id` = :userId AND `user_topic`.`topic_id` = :topicid) LIMIT 1;
(相同方法见http://stackoverflow.com/a/31...)
通过这种“插入时判断不存在才插入并返回行数为1,存在的话返回行数为0”的方法,可以做到:
只有在返回行数为1的情况下才执行之后逻辑(如缓存内的统计数+1,缓存内帖子推荐人增加此userId等等)
如果返回行数为0,则接口返回error
解决方案二:清理脏数据并建立联合唯一索引
这个方案是本文的核心了,也是我们目前认为的最佳实践。
第一步:查找user_id, thread_id的联合duplication
SELECT a.* FROM `thread_recommend` a INNER JOIN (SELECT * FROM `thread_recommend` GROUP BY `thread_id`, `user_id` HAVING COUNT(id) > 1) b ON a.`thread_id` = b.`thread_id` AND a.`user_id` = b.`user_id` ORDER BY a.`user_id` ASC, a.`thread_id` ASC, a.`id` DESC
或简单的版本
SELECT * FROM `thread_recommend` WHERE (`user_id`, `thread_id`) IN (SELECT `user_id`, `thread_id` FROM `thread_recommend` GROUP BY `user_id`, `thread_id` HAVING COUNT(1) > 1);
得到

哇!所有的重复项都在这里了,好想马上把它们干掉!
现在需要将重复的条目中ID更大的所有条目都删除,只留ID最小的那一个。
删之前先获得需要删除项,比对一下,
SELECT * FROM `thread_recommend` WHERE (`user_id`, `thread_id`) IN (SELECT `user_id`, `thread_id` FROM `thread_recommend` GROUP BY `user_id`, `thread_id` HAVING COUNT(1) > 1) AND `id` NOT IN (SELECT MIN(`id`) FROM `thread_recommend` GROUP BY `user_id`, `thread_id` HAVING COUNT(1) > 1);
下一步,SELECT * FROM
改成DELETE FROM
,删除!
DELETE FROM `thread_recommend` WHERE (`user_id`, `thread_id`) IN (SELECT `user_id`, `thread_id` FROM `thread_recommend` GROUP BY `user_id`, `thread_id` HAVING COUNT(1) > 1) AND `id` NOT IN (SELECT MIN(`id`) FROM `thread_recommend` GROUP BY `user_id`, `thread_id` HAVING COUNT(1) > 1);
Oops!报错!
You can't specify target table 'thread_recommend' for update in FROM clause
这是Mysql的一个小问题,我们参见解决方案 http://stackoverflow.com/a/14... 后修改一下SQL就好:
DELETE FROM `thread_recommend` WHERE (`user_id`, `thread_id`) IN (SELECT `user_id`, `thread_id` FROM (SELECT * FROM `thread_recommend`) a GROUP BY `user_id`, `thread_id` HAVING COUNT(1) > 1) AND `id` NOT IN (SELECT MIN(`id`) FROM (SELECT * FROM `thread_recommend`) b GROUP BY `user_id`, `thread_id` HAVING COUNT(1) > 1);
最后,加联合唯一索引!
ALTER TABLE `thread_recommend` ADD UNIQUE KEY `thread_id_user_id_unique`(`thread_id`,`user_id`) USING BTREE;
Of course,如果上述清理工作没有完成将会报错!
完!
今天关于《MySQL去除“关联表”重复数据,以建立联合唯一索引》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!
使用MySQL Sandbox快速部署mysql
- 上一篇
- 使用MySQL Sandbox快速部署mysql
- 下一篇
- MySQL查询表内重复记录
-
- 数据库 · MySQL | 6小时前 | MySQL ·
- MySQL 外键迁移的检查开关与恢复顺序
- 318浏览 收藏
-
- 数据库 · MySQL | 15小时前 |
- MySQL 事件调度器怎样安全执行周期任务
- 159浏览 收藏
-
- 数据库 · MySQL | 15小时前 |
- MySQL histogram 怎样辅助没有合适索引的列估算
- 386浏览 收藏
-
- 数据库 · MySQL | 15小时前 |
- MySQL 死锁日志怎样对应到具体事务
- 185浏览 收藏
-
- 数据库 · MySQL | 15小时前 | MySQL · SQL · mysql ROW_NUMBER 多表UPDATE 关联重复
- MySQL 多表 UPDATE 怎样避免关联重复更新
- 342浏览 收藏
-
- 数据库 · MySQL | 15小时前 |
- MySQL 分区表怎样确认查询命中了分区裁剪
- 347浏览 收藏
-
- 数据库 · MySQL | 15小时前 | MySQL · JSON · 数据库 · 查询优化 · mysql 索引 explain JSON json_extract 生成列 JSON_VALUE JSON_UNQUOTE
- MySQL 生成列怎样把 JSON 路径变成可索引字段
- 475浏览 收藏
-
- 数据库 · MySQL | 15小时前 |
- MySQL GROUP_CONCAT 怎样避免结果被 group_concat_max_len 截断
- 443浏览 收藏
-
- 数据库 · MySQL | 15小时前 |
- MySQL schema_index_statistics 怎样找出读取延迟最高的索引
- 372浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 711次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 715次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 796次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 756次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 588次使用
-
- MySQL 明明加了索引,为什么查询还是很慢?先查这 6 个点
- 2026-06-27 374浏览
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- golang 基于 mysql 简单实现分布式读写锁
- 2023-01-07 384浏览
-
- 详解如何利用GORM实现MySQL事务
- 2023-01-07 184浏览
-
- Go语言实现操作MySQL的基础知识总结
- 2023-01-23 265浏览

