Mysql存储过程如何实现历史数据迁移
来源:脚本之家
2023-02-25 09:38:29
0浏览
收藏
来到golang学习网的大家,相信都是编程学习爱好者,希望在这里学习数据库相关编程知识。下面本篇文章就来带大家聊聊《Mysql存储过程如何实现历史数据迁移》,介绍一下MySQL存储过程、迁移、历史数据,希望对大家的知识积累有所帮助,助力实战开发!
Mysql迁移历史数据
记录一下工作中由于业务需要以及系统的数据库模型变更,导致需要做一下历史数据迁移的解决办法
需求陈述
- 一共涉及到三张表,分别称为A、B、C
- 历史数据在表A中。
- A表中存的数据有两部分,通过一个busi_reg_province_code 字段来区分
- 一部分插入到B表,一部分插入到C表(就是用busi_reg_province_code来区分的两部分)
- 存入B中的部分,对于存入C中的部分是一对多的关系。(相当于B是做个汇总,C是详细情况)
- 存入B的要计算存入C的某一字段值的总和
其实就是将一张表中的数据,拆分分别存入B和C中。但是B和C是一对多的关系。
心路历程
Step1
- 说到数据迁移,第一想法就是通过
insert into select的语法形式来做数据迁移。 - 但是因为B是C数据的汇总,所以不免需要使用一些聚合函数做计算,还要分组。
- 嗯~想想就头大。
- 尝试着写了一下以后,最后还是放弃了。(突然觉得自己对SQL是一无所知,菜的抠jio)
Step2
- 放弃了写SQL,怎么办呢?需求还得做。
- 那作为一名JAVA开发,于是写一个接口的想法诞生了。
- 整理一下思路,发现用JAVA写,嗯~(会心一笑)还是很容易的。
- 毕竟java8的流式处理还是很方便的。但是就在这时,心里突然又觉得 emm~ 我这样逃避好像也不好啊。
- 没有长进都,而且这个接口就调用一次,属实是有点不合适。
- 所以觉得还是放弃JAVA方式。
Step3
- 既然还是用SQL语句来写,但是什么
sum、count、group by、case when掺在一起又那么复杂又理不清,可咋办呢? - 那只好 必应一下。刚好查到了存储结构。
- 但是此时思想还是停留在
insert into select的阶段,但是因为主键并不是自增的,这个主键的问题得解决。
整理一下问题:
- 主键非自增,所以怎么赋值?
- 需要计算总值的列怎么计算?
- 怎么能写一个SQL把两个表都插入完成?
上面这几个问题一出现,似乎已经没办法再使用insert into select的形式了。
所以只能一个一个循环处理。那怎么循环呢?
这个时候就行到了游标。可是这两个东西,不管是触发器,还是游标这个技能都已经封存已久,一点不记得了。所以重新学习一下
学习参考了一下这个文章。我觉得写的还是蛮细致的
最终实现
下面是我最终写完的存储过程。用了游标的嵌套
# --------------------------历史数据迁移----------------------
# 删除存储过程
drop procedure if exists convertHistory;
# 创建一个存储过程
create procedure convertHistory()
begin
# 定义一个主键
declare outerId bigint default (select min(RESOURCE_ID) from mkt_resource_conf);
# 定义查询插入的列
declare caseName varchar(32);
declare gradeId varchar(32);
declare flowGrade bigint(10);
declare allocateNum bigint(10);
declare province varchar(8);
declare flowUnit varchar(4);
# 是否完成
declare done int default false;
# 创建游标
declare orignData cursor for select CASE_NAME,
FLOW_GRADE,
GRADE_ID,
QUANTITY,
BUSI_REG_PROVINCE_CODE,
FLOW_UNIT
from prd_flow_info
where BUSI_REG_PROVINCE_CODE = '100';
# 指定游标循环结束时的返回值
declare continue HANDLER FOR not found set done = true;
# 把初始值ID减一个数目
set outerId = outerId - 100;
# 先把之前迁移的删掉
delete from mkt_resource_conf where REMARK = '历史数据割接';
# 删掉之前的
delete from mkt_resource_store_conf where REMARK = '历史数据割接';
# 打开游标
open orignData;
fetch orignData into caseName,flowGrade,gradeId,allocateNum,province,flowUnit;
while (not done) do
# 具体的业务逻辑
# 查询的都是配置项,那么插入到配置表
# 配置项需要查询一下该配置的总量
select sum(QUANTITY)
from prd_flow_info
where FLOW_GRADE = flowGrade
and BUSI_REG_PROVINCE_CODE = '99' into allocateNum;
# 1、2G 的流量直接做转换,转为MB
if flowUnit = 'G' then
set flowGrade = flowGrade * 1024;
end if;
insert into mkt_resource_conf
values (outerId, caseName, gradeId, flowGrade, allocateNum, allocateNum, 1, '没什么说明', 'system', 'system', sysdate(),
'system', 'system',
sysdate(), '1', '历史数据割接');
# 查询门店的配置,并且插入到门店的配置信息表
# 这里就要写一个嵌套的游标了
begin
# 定义一个配置表的ID
declare storeConfId bigint default (select min(STORE_CONF_ID) from mkt_resource_store_conf);
declare storeCode varchar(32);
declare alloNum bigint(10);
declare usedNum bigint(10);
declare storeDone int default false;
declare storeName varchar(128);
# 定义游标
declare storeData cursor for select store_code,QUANTITY,USE_NUM
from prd_flow_info
where GRADE_ID = gradeId
and BUSI_REG_PROVINCE_CODE = '99';
declare continue HANDLER FOR not found set storeDone = true;
# select gradeId;
set storeConfId = storeConfId - 100;
# 开始游标了
open storeData;
fetch storeData into storeCode,alloNum,usedNum;
while (not storeDone) do
# 从表里查一下storeName,没有就没辙了
select STORE_NAME from mkt_resource_store_conf where STORE_CODE = storeCode limit 1 into storeName;
# 开始保存到门店配置表
insert into `mkt_resource_store_conf` (`store_conf_id`, `resource_id`, `store_code`, `STORE_NAME`,
`allocated_res_num`,
`used_res_num`,
`create_id`, `create_name`, `create_time`, `update_id`, `update_name`,
`update_time`,
`state`, `remark`)
values (storeConfId, outerId, storeCode, storeName, alloNum, usedNum, 'system', 'system', sysdate(), 'system',
'system',
sysdate(),
1, '历史数据割接');
commit ;
# ID -1
set storeConfId = storeConfId - 1;
fetch storeData into storeCode,alloNum,usedNum;
end while;
# 重置变量
set storeDone = false;
# 关闭内层游标
close storeData;
end;
# 把初始值ID减一
set outerId = outerId - 1;
fetch orignData into caseName,flowGrade,gradeId,allocateNum,province,flowUnit;
end while;
# 关闭游标
close orignData;
SELECT * FROM mkt_resource_conf where REMARK = '历史数据割接';
SELECT * FROM mkt_resource_store_conf where REMARK = '历史数据割接';
end;
call convertHistory();
总结
没开始的时候觉得会很难,但是真的边学边写的时候,心情就会逐渐转变。万事开头难说的不错,一旦开始获得正向反馈,问题也就慢慢的迎刃而解了。
其实这个写的并不复杂,只是代码比较长。
总结一下:
- 首先要克服自己的心里恐惧
- 定义存储过程的语法
declare procedure - 了解游标及存储过程的使用场景
- 定义游标的过程
declare 游标名 cursor for (select 语句) - 打开游标
open 游标名关闭游标close 游标名 - 将游标中查询的字段事先定义好,然后通过
fetch 游标名 into 事先定义的变量来获得每一条数据(有点像ES6的generator,走一步踢一脚) - 变量赋值
select xxx into 变量和set xxx = 变量值 - 其他的就是条件控制语句loop 、while、if、else等
总的来说掌握基本语法,或者看一眼别人的格式,就可以模仿出来了。
以上为个人经验,希望能给大家一个参考,也希望大家多多支持golang学习网。
理论要掌握,实操不能落!以上关于《Mysql存储过程如何实现历史数据迁移》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!
版本声明
本文转载于:脚本之家 如有侵犯,请联系study_golang@163.com删除
详解Golang如何实现节假日不打扰用户
- 上一篇
- 详解Golang如何实现节假日不打扰用户
- 下一篇
- 一文带你深入理解Go语言中的sync.Cond
查看更多
最新文章
-
- 数据库 · MySQL | 23小时前 |
- MySQL数值函数大全及使用技巧
- 117浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- 三种登录MySQL方法详解
- 411浏览 收藏
-
- 数据库 · MySQL | 3天前 |
- MySQL数据备份方法与工具推荐
- 420浏览 收藏
-
- 数据库 · MySQL | 3天前 |
- MySQL数据备份方法与工具推荐
- 264浏览 收藏
-
- 数据库 · MySQL | 4天前 |
- MySQL索引的作用是什么?
- 266浏览 收藏
-
- 数据库 · MySQL | 5天前 |
- MySQL排序原理与实战应用
- 392浏览 收藏
-
- 数据库 · MySQL | 1星期前 |
- MySQLwhere条件查询技巧
- 333浏览 收藏
-
- 数据库 · MySQL | 1星期前 |
- MySQL常用数据类型有哪些?怎么选更合适?
- 234浏览 收藏
-
- 数据库 · MySQL | 1星期前 |
- MySQL常用命令大全管理员必学30条
- 448浏览 收藏
-
- 数据库 · MySQL | 1星期前 |
- MySQL高效批量插入数据方法大全
- 416浏览 收藏
-
- 数据库 · MySQL | 1星期前 |
- MySQL性能优化技巧大全
- 225浏览 收藏
-
- 数据库 · MySQL | 1星期前 |
- MySQL数据备份4种方法保障安全
- 145浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- ChatExcel酷表
- ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
- 3162次使用
-
- Any绘本
- 探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
- 3375次使用
-
- 可赞AI
- 可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
- 3403次使用
-
- 星月写作
- 星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
- 4506次使用
-
- MagicLight
- MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
- 3784次使用
查看更多
相关文章
-
- MySQL函数与存储过程字符串长度限制的解决
- 2023-01-07 120浏览
-
- MySQL 存储过程的优缺点分析
- 2023-01-14 230浏览
-
- 从云数据迁移服务看MySQL大表抽取模式的原理解析
- 2022-12-30 306浏览
-
- MySQL之存储过程按月创建表的方法步骤
- 2023-01-09 476浏览
-
- Alibaba 数据库迁移开源工具 Datax 安装和使用
- 2023-02-24 311浏览

