【巨杉数据库Sequoiadb】用pg对500W数据进行group by操作,耗时过长(50秒)
你在学习数据库相关的知识吗?本文《【巨杉数据库Sequoiadb】用pg对500W数据进行group by操作,耗时过长(50秒)》,主要介绍的内容就涉及到MySQL,如果你想提升自己的开发能力,就不要错过这篇文章,大家要知道编程理论基础和实战操作都是不可或缺的哦!
【用户咨询】
用sequoiasql-postgresql创建一个关联表,存入500W数据。在创建索引的情况下,用pg进行简单的group by查询,平均耗时是50秒,是否可以进一步优化?
【问题描述】
1.集群部署情况
三台主机对应一个分区组,每台主机均部署有coord、cata、data节点。
2.表属性
一个500w数据的关联表b_qt_swdj和一个800w数据的pg原生表b_qt_swdj1,两个表结构相同,一共39个字段。
3.sample和语句
对关联表执行查询:
①SELECT sw_scjy_yb,count(se_scjy_yb) as count FROM b_qt_swdj group by sw_scjy_yb;
②SELECT count(1) from b_qt_swdj;
对原生表执行查询:
③SELECT sw_scjy_yb,count(se_scjy_yb) as count FROM b_qt_swdj1 group by sw_scjy_yb;
④SELECT count(1) from b_qt_swdj1;
用db内置sql执行①,耗时57秒。执行②,耗时33秒。 用pg执行①,耗时50秒。执行②,耗时44秒。
用pg执行③,耗时8秒。执行④,耗时3秒。
4.网络带宽
传输数据时约为46MB/S。
5.有关截图 见附件《截图三》
【解决办法】
SELECT sw_scjy_yb,count(se_scjy_yb) as count FROM b_qt_swdj1 group by sw_scjy_yb;在pg耗时和使用sdb内置sql耗时差不多,都是50S左右。跟pg关系不大。
从pg的访问计划(见截图三)来看,绝大部分耗时也是在select上。
建议一:应该考虑在sdb端对表做分区,提高数据抽取并发度去提高性能。
建议二:对于大表的统计推荐使用SparkSQL作为sql引擎。
以上就是《【巨杉数据库Sequoiadb】用pg对500W数据进行group by操作,耗时过长(50秒)》的详细内容,更多关于mysql的资料请关注golang学习网公众号!

- 上一篇
- 【巨杉数据库Sequoiadb】添加主机失败,报-6

- 下一篇
- (五)java B2B2C Springcloud多租户电子商城系统---使用spring cloud Bus刷新配置
-
- 数据库 · MySQL | 9小时前 | Python 环境变量 systemd mysql--version sudosystemctlstatusmysql
- MySQL快速检测方法:三种技巧
- 454浏览 收藏
-
- 数据库 · MySQL | 15小时前 | mysql 数据库管理 性能优化 use CREATEDATABASE
- MySQL创建数据库后如何进入?用use命令切换
- 388浏览 收藏
-
- 数据库 · MySQL | 16小时前 |
- MySQL中英文界面切换小技巧
- 223浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- MySQL自定义安装到D盘详细教程及路径设置
- 480浏览 收藏
-
- 数据库 · MySQL | 1天前 | golang unique timestamp PRIMARYKEY AUTO_INCREMENT
- MySQL创建数据表字段约束完整示例
- 442浏览 收藏
-
- 数据库 · MySQL | 1天前 | 索引 数据类型 约束 命名规范 CREATETABLE
- MySQL建表语句规范与示例详解
- 100浏览 收藏
-
- 数据库 · MySQL | 1天前 | 唯一性 主键 CREATETABLE AUTO_INCREMENT 聚集索引
- MySQL主键能否重复?深度解析唯一性约束
- 428浏览 收藏
-
- 数据库 · MySQL | 1天前 |
- mysql新手必学基础命令操作合集
- 137浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- 魔匠AI
- SEO摘要魔匠AI专注于高质量AI学术写作,已稳定运行6年。提供无限改稿、选题优化、大纲生成、多语言支持、真实参考文献、数据图表生成、查重降重等全流程服务,确保论文质量与隐私安全。适用于专科、本科、硕士学生及研究者,满足多语言学术需求。
- 7次使用
-
- PPTFake答辩PPT生成器
- PPTFake答辩PPT生成器,专为答辩准备设计,极致高效生成PPT与自述稿。智能解析内容,提供多样模板,数据可视化,贴心配套服务,灵活自主编辑,降低制作门槛,适用于各类答辩场景。
- 24次使用
-
- Lovart
- SEO摘要探索Lovart AI,这款专注于设计领域的AI智能体,通过多模态模型集成和智能任务拆解,实现全链路设计自动化。无论是品牌全案设计、广告与视频制作,还是文创内容创作,Lovart AI都能满足您的需求,提升设计效率,降低成本。
- 23次使用
-
- 美图AI抠图
- 美图AI抠图,依托CVPR 2024竞赛亚军技术,提供顶尖的图像处理解决方案。适用于证件照、商品、毛发等多场景,支持批量处理,3秒出图,零PS基础也能轻松操作,满足个人与商业需求。
- 34次使用
-
- PetGPT
- SEO摘要PetGPT 是一款基于 Python 和 PyQt 开发的智能桌面宠物程序,集成了 OpenAI 的 GPT 模型,提供上下文感知对话和主动聊天功能。用户可高度自定义宠物的外观和行为,支持插件热更新和二次开发。适用于需要陪伴和效率辅助的办公族、学生及 AI 技术爱好者。
- 35次使用
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- 搞一个自娱自乐的博客(二) 架构搭建
- 2023-02-16 244浏览
-
- B-Tree、B+Tree以及B-link Tree
- 2023-01-19 235浏览
-
- mysql面试题
- 2023-01-17 157浏览
-
- MySQL数据表简单查询
- 2023-01-10 101浏览