当前位置:首页 > 文章列表 > Golang > Go问答 > 在gorm中执行批量更新操作

在gorm中执行批量更新操作

来源:stackoverflow 2024-03-09 19:27:22 0浏览 收藏

本篇文章向大家介绍《在gorm中执行批量更新操作》,主要包括,具有一定的参考价值,需要的朋友可以参考一下。

问题内容

我有一个需求,更新bulk中的数据,而这个数据中的一些字段经过二次处理后,变成了不同的。比如

[{"id":83,"ip":"10.215.14.216","test1":24,"test2":126,"test3":300},
{"id":82,"ip":"10.215.14.215","test1":6,"test2":100,"test3":600}
...]

官方gorm批量更新是将部分字段改为相同的值。

最简单的方法是使用loop一次更新一个,不过个人感觉in高效。

for _,v := range bulkdata{
  // update single
}

有没有批量更新的方法来提高效率?我真的很感谢任何对此的帮助。


正确答案


  1. 当 类似时尝试使用 case
update table_name
set ip = case id
    when 83 then '10.215.14.216'
    when 82 then '10.215.14.215'
end, test1 = case id
    when 83 then 24,
    when 82 then 6
end
where id in (83, 82)
  • 现在使用 reflect 生成原始 sql
  • package main
    
    import (
        "bytes"
        "fmt"
        "math"
        "reflect"
        "strconv"
        "strings"
    )
    
    func genBatchUpdateSQL(tableName string, dataList interface{}) ([]string, error) {
        fieldValue := reflect.ValueOf(dataList)
        fieldType := reflect.TypeOf(dataList).Elem().Elem()
        sliceLength := fieldValue.Len()
        fieldNum := fieldType.NumField()
         
        // TODO add validate struct. struct must have primaryKey and gorm tag
    
        var IDList []string
        updateMap := make(map[string][]string)
        for i := 0; i < sliceLength; i++ {
            structValue := fieldValue.Index(i).Elem()
            for j := 0; j < fieldNum; j++ {
                elem := structValue.Field(j)
    
                var tid string
                switch elem.Kind() {
                case reflect.Int64:
                    tid = strconv.FormatInt(elem.Int(), 10)
                case reflect.String:
                    if strings.Contains(elem.String(), "'") {
                        tid = fmt.Sprintf("'%v'", strings.ReplaceAll(elem.String(), "'", "\\'"))
                    } else {
                        tid = fmt.Sprintf("'%v'", elem.String())
                    }
                case reflect.Float64:
                    tid = strconv.FormatFloat(elem.Float(), 'f', -1, 64)
                case reflect.Bool:
                    tid = strconv.FormatBool(elem.Bool())
                default:
                    return nil, fmt.Errorf("type conversion error, param is %v", fieldType.Field(j).Tag.Get("json"))
                }
    
                gormTag := fieldType.Field(j).Tag.Get("gorm")
                fieldTag := getFieldName(gormTag)
    
                if strings.HasPrefix(fieldTag, "id;") {
                    id, err := strconv.ParseInt(tid, 10, 64)
                    if err != nil {
                        return nil, err
                    }
    
                    if id < 1 {
                        return nil, fmt.Errorf("this structure should have a primary key and gt 0")
                    }
                    IDList = append(IDList, tid)
                    continue
                }
    
                valueList := append(updateMap[fieldTag], tid)
                updateMap[fieldTag] = valueList
            }
        }
    
        length := len(IDList)
        // Length of each batch submission
        size := 200
        SQLQuantity := getSQLQuantity(length, size)
        var SQLArray []string
        k := 0
    
        for i := 0; i < SQLQuantity; i++ {
            count := 0
            var record bytes.Buffer
            record.WriteString("UPDATE " + tableName + " SET ")
    
            for fieldName, fieldValueList := range updateMap {
                record.WriteString(fieldName)
                record.WriteString(" = CASE " + "id")
    
                for j := k; j < len(IDList) && j < len(fieldValueList) && j < size+k; j++ {
                    record.WriteString(" WHEN " + IDList[j] + " THEN " + fieldValueList[j])
                }
    
                count++
                if count != fieldNum-1 {
                    record.WriteString(" END, ")
                }
            }
    
            record.WriteString(" END WHERE ")
            record.WriteString("id" + " IN (")
            min := size + k
            if len(IDList) < min {
                min = len(IDList)
            }
            record.WriteString(strings.Join(IDList[k:min], ","))
            record.WriteString(");")
    
            k += size
            SQLArray = append(SQLArray, record.String())
        }
        return SQLArray, nil
    }
    
    func getSQLQuantity(length, size int) int {
        return int(math.Ceil(float64(length) / float64(size)))
    }
    
    func getFieldName(fieldTag string) string {
        fieldTagArr := strings.Split(fieldTag, ":")
        if len(fieldTagArr) == 0 {
            return ""
        }
    
        return fieldTagArr[len(fieldTagArr)-1]
    }
    
    
    type Ts struct {
        ID    int64   `gorm:"column:id;primaryKey" json:"id"`
        IP    string  `gorm:"column:ip" json:"ip"`
        Test1 float64 `gorm:"column:test1" json:"test1"`
    }
    
    func main() {
        var t []*Ts
        demo1 := &Ts{1, "11.215.14.216", 11.0}
        demo2 := &Ts{2, "12.215.14.216", 12.0}
        demo3 := &Ts{3, "13.215.14.216", 13.0}
        demo4 := &Ts{4, "14.215.14.216", 14.0}
        demo5 := &Ts{5, "15.215.14.216", 15.0}
    
        t = append(t, demo1, demo2, demo3, demo4, demo5)
        res, err := genBatchUpdateSQL("table_name", t)
        if err != nil {
            return
        }
        fmt.Println(res)
        // [UPDATE table_name SET ip = CASE id WHEN 1 THEN 'Test001' WHEN 2 THEN 'Test002' WHEN 3 THEN 'Test003' WHEN 4 THEN 'Test004' WHEN 5 THEN 'Test005' END, test1 = CASE id WHEN 1 THEN 11 WHEN 2 THEN 12 WHEN 3 THEN 13 WHEN 4 THEN 14 WHEN 5 THEN 15 END WHERE id IN (1,2,3,4,5);]
    }
    
    
    1. 现在您可以使用原始 sql 进行批量更新

    好了,本文到此结束,带大家了解了《在gorm中执行批量更新操作》,希望本文对你有所帮助!关注golang学习网公众号,给大家分享更多Golang知识!

    版本声明
    本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
    解决Discuz删除回复的常见问题解决Discuz删除回复的常见问题
    上一篇
    解决Discuz删除回复的常见问题
    使用 JSON 格式传递消息通过 PubSub 实现
    下一篇
    使用 JSON 格式传递消息通过 PubSub 实现
    查看更多
    最新文章
    查看更多
    课程推荐
    • 前端进阶之JavaScript设计模式
      前端进阶之JavaScript设计模式
      设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
      543次学习
    • GO语言核心编程课程
      GO语言核心编程课程
      本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
      516次学习
    • 简单聊聊mysql8与网络通信
      简单聊聊mysql8与网络通信
      如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
      500次学习
    • JavaScript正则表达式基础与实战
      JavaScript正则表达式基础与实战
      在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
      487次学习
    • 从零制作响应式网站—Grid布局
      从零制作响应式网站—Grid布局
      本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
      485次学习
    查看更多
    AI推荐
    • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
      PubMedQA
      深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
      471次使用
    • H2O EvalGPT:开源LLM大模型评估与排行榜工具
      H2O EvalGPT
      H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
      530次使用
    • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
      LMArena
      LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
      549次使用
    • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
      HELM
      深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
      499次使用
    • MMBench详解:多模态大模型基准测试、功能特点与使用指南
      MMBench
      MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
      317次使用