当前位置:首页 > 文章列表 > 数据库 > MySQL > Mysql存储过程如何实现历史数据迁移

Mysql存储过程如何实现历史数据迁移

来源:脚本之家 2023-02-25 09:38:29 0浏览 收藏

来到golang学习网的大家,相信都是编程学习爱好者,希望在这里学习数据库相关编程知识。下面本篇文章就来带大家聊聊《Mysql存储过程如何实现历史数据迁移》,介绍一下MySQL存储过程、迁移、历史数据,希望对大家的知识积累有所帮助,助力实战开发!

Mysql迁移历史数据

记录一下工作中由于业务需要以及系统的数据库模型变更,导致需要做一下历史数据迁移的解决办法

需求陈述

  • 一共涉及到三张表,分别称为A、B、C
  • 历史数据在表A中。
  • A表中存的数据有两部分,通过一个busi_reg_province_code 字段来区分
  • 一部分插入到B表,一部分插入到C表(就是用busi_reg_province_code来区分的两部分)
  • 存入B中的部分,对于存入C中的部分是一对多的关系。(相当于B是做个汇总,C是详细情况)
  • 存入B的要计算存入C的某一字段值的总和

其实就是将一张表中的数据,拆分分别存入B和C中。但是B和C是一对多的关系。

心路历程

Step1

  • 说到数据迁移,第一想法就是通过insert into select 的语法形式来做数据迁移。
  • 但是因为B是C数据的汇总,所以不免需要使用一些聚合函数做计算,还要分组。
  • 嗯~想想就头大。
  • 尝试着写了一下以后,最后还是放弃了。(突然觉得自己对SQL是一无所知,菜的抠jio

Step2

  • 放弃了写SQL,怎么办呢?需求还得做。
  • 那作为一名JAVA开发,于是写一个接口的想法诞生了。
  • 整理一下思路,发现用JAVA写,嗯~(会心一笑)还是很容易的。
  • 毕竟java8的流式处理还是很方便的。但是就在这时,心里突然又觉得 emm~ 我这样逃避好像也不好啊。
  • 没有长进都,而且这个接口就调用一次,属实是有点不合适。
  • 所以觉得还是放弃JAVA方式。

Step3

  • 既然还是用SQL语句来写,但是什么sum、count、group by、case when 掺在一起又那么复杂又理不清,可咋办呢?
  • 那只好 必应一下。刚好查到了存储结构
  • 但是此时思想还是停留在insert into select 的阶段,但是因为主键并不是自增的,这个主键的问题得解决。

整理一下问题:

  • 主键非自增,所以怎么赋值?
  • 需要计算总值的列怎么计算?
  • 怎么能写一个SQL把两个表都插入完成?

上面这几个问题一出现,似乎已经没办法再使用insert into select的形式了。

所以只能一个一个循环处理。那怎么循环呢?

这个时候就行到了游标。可是这两个东西,不管是触发器,还是游标这个技能都已经封存已久,一点不记得了。所以重新学习一下

学习参考了一下这个文章。我觉得写的还是蛮细致的

最终实现

下面是我最终写完的存储过程。用了游标的嵌套

#  --------------------------历史数据迁移----------------------
# 删除存储过程
drop procedure if exists convertHistory;
# 创建一个存储过程
create procedure convertHistory()
begin
  #   定义一个主键
  declare outerId bigint default (select min(RESOURCE_ID) from mkt_resource_conf);
  # 定义查询插入的列
  declare caseName varchar(32);
  declare gradeId varchar(32);
  declare flowGrade bigint(10);
  declare allocateNum bigint(10);
  declare province varchar(8);
  declare flowUnit varchar(4);
  #   是否完成
  declare done int default false;
  # 创建游标
  declare orignData cursor for select CASE_NAME,
                                      FLOW_GRADE,
                                      GRADE_ID,
                                      QUANTITY,
                                      BUSI_REG_PROVINCE_CODE,
                                      FLOW_UNIT
                               from prd_flow_info
                               where BUSI_REG_PROVINCE_CODE = '100';
  #   指定游标循环结束时的返回值
  declare continue HANDLER FOR not found set done = true;
  #   把初始值ID减一个数目
  set outerId = outerId - 100;
  #   先把之前迁移的删掉
  delete from mkt_resource_conf where REMARK = '历史数据割接';
  #     删掉之前的
  delete from mkt_resource_store_conf where REMARK = '历史数据割接';
  # 打开游标
  open orignData;
  fetch orignData into caseName,flowGrade,gradeId,allocateNum,province,flowUnit;
  while (not done) do
  #     具体的业务逻辑
  #     查询的都是配置项,那么插入到配置表
  #     配置项需要查询一下该配置的总量
  select sum(QUANTITY)
  from prd_flow_info
  where FLOW_GRADE = flowGrade
    and BUSI_REG_PROVINCE_CODE = '99' into allocateNum;
  #     1、2G 的流量直接做转换,转为MB
  if flowUnit = 'G' then
    set flowGrade = flowGrade * 1024;
  end if;

  insert into mkt_resource_conf
  values (outerId, caseName, gradeId, flowGrade, allocateNum, allocateNum, 1, '没什么说明', 'system', 'system', sysdate(),
          'system', 'system',
          sysdate(), '1', '历史数据割接');
  #     查询门店的配置,并且插入到门店的配置信息表
  #     这里就要写一个嵌套的游标了
  begin
    #       定义一个配置表的ID
    declare storeConfId bigint default (select min(STORE_CONF_ID) from mkt_resource_store_conf);
    declare storeCode varchar(32);
    declare alloNum bigint(10);
    declare usedNum bigint(10);
    declare storeDone int default false;
    declare storeName varchar(128);
    #     定义游标
    declare storeData cursor for select store_code,QUANTITY,USE_NUM
                                 from prd_flow_info
                                 where GRADE_ID = gradeId
                                   and BUSI_REG_PROVINCE_CODE = '99';
    declare continue HANDLER FOR not found set storeDone = true;
    #     select gradeId;

    set storeConfId = storeConfId - 100;

    # 开始游标了
    open storeData;
    fetch storeData into storeCode,alloNum,usedNum;

    while (not storeDone) do
    #       从表里查一下storeName,没有就没辙了
    select STORE_NAME from mkt_resource_store_conf where STORE_CODE = storeCode limit 1 into storeName;
    #       开始保存到门店配置表
    insert into `mkt_resource_store_conf` (`store_conf_id`, `resource_id`, `store_code`, `STORE_NAME`,
                                           `allocated_res_num`,
                                           `used_res_num`,
                                           `create_id`, `create_name`, `create_time`, `update_id`, `update_name`,
                                           `update_time`,
                                           `state`, `remark`)
    values (storeConfId, outerId, storeCode, storeName, alloNum, usedNum, 'system', 'system', sysdate(), 'system',
            'system',
            sysdate(),
            1, '历史数据割接');
    commit ;
    #       ID -1
    set storeConfId = storeConfId - 1;
    fetch storeData into storeCode,alloNum,usedNum;
    end while;
    #     重置变量
    set storeDone = false;
    #     关闭内层游标
    close storeData;
  end;
  #   把初始值ID减一
  set outerId = outerId - 1;
  fetch orignData into caseName,flowGrade,gradeId,allocateNum,province,flowUnit;
  end while;
  #   关闭游标
  close orignData;

  SELECT * FROM mkt_resource_conf where REMARK = '历史数据割接';
  SELECT * FROM mkt_resource_store_conf where REMARK = '历史数据割接';
end;

call convertHistory();

总结

没开始的时候觉得会很难,但是真的边学边写的时候,心情就会逐渐转变。万事开头难说的不错,一旦开始获得正向反馈,问题也就慢慢的迎刃而解了。

其实这个写的并不复杂,只是代码比较长。

总结一下:

  • 首先要克服自己的心里恐惧
  • 定义存储过程的语法declare procedure
  • 了解游标及存储过程的使用场景
  • 定义游标的过程declare 游标名 cursor for (select 语句)
  • 打开游标open 游标名 关闭游标close 游标名
  • 将游标中查询的字段事先定义好,然后通过fetch 游标名 into 事先定义的变量 来获得每一条数据(有点像ES6的generator,走一步踢一脚)
  • 变量赋值select xxx into 变量set xxx = 变量值
  • 其他的就是条件控制语句loop 、while、if、else

总的来说掌握基本语法,或者看一眼别人的格式,就可以模仿出来了。

以上为个人经验,希望能给大家一个参考,也希望大家多多支持golang学习网。

理论要掌握,实操不能落!以上关于《Mysql存储过程如何实现历史数据迁移》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!

版本声明
本文转载于:脚本之家 如有侵犯,请联系study_golang@163.com删除
详解Golang如何实现节假日不打扰用户详解Golang如何实现节假日不打扰用户
上一篇
详解Golang如何实现节假日不打扰用户
一文带你深入理解Go语言中的sync.Cond
下一篇
一文带你深入理解Go语言中的sync.Cond
评论列表
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    542次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    508次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    497次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    484次学习
查看更多
AI推荐
  • 笔灵AI生成答辩PPT:高效制作学术与职场PPT的利器
    笔灵AI生成答辩PPT
    探索笔灵AI生成答辩PPT的强大功能,快速制作高质量答辩PPT。精准内容提取、多样模板匹配、数据可视化、配套自述稿生成,让您的学术和职场展示更加专业与高效。
    10次使用
  • 知网AIGC检测服务系统:精准识别学术文本中的AI生成内容
    知网AIGC检测服务系统
    知网AIGC检测服务系统,专注于检测学术文本中的疑似AI生成内容。依托知网海量高质量文献资源,结合先进的“知识增强AIGC检测技术”,系统能够从语言模式和语义逻辑两方面精准识别AI生成内容,适用于学术研究、教育和企业领域,确保文本的真实性和原创性。
    22次使用
  • AIGC检测服务:AIbiye助力确保论文原创性
    AIGC检测-Aibiye
    AIbiye官网推出的AIGC检测服务,专注于检测ChatGPT、Gemini、Claude等AIGC工具生成的文本,帮助用户确保论文的原创性和学术规范。支持txt和doc(x)格式,检测范围为论文正文,提供高准确性和便捷的用户体验。
    30次使用
  • 易笔AI论文平台:快速生成高质量学术论文的利器
    易笔AI论文
    易笔AI论文平台提供自动写作、格式校对、查重检测等功能,支持多种学术领域的论文生成。价格优惠,界面友好,操作简便,适用于学术研究者、学生及论文辅导机构。
    38次使用
  • 笔启AI论文写作平台:多类型论文生成与多语言支持
    笔启AI论文写作平台
    笔启AI论文写作平台提供多类型论文生成服务,支持多语言写作,满足学术研究者、学生和职场人士的需求。平台采用AI 4.0版本,确保论文质量和原创性,并提供查重保障和隐私保护。
    35次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码