运维监控场景下,如何从OpenTSDB迁移到TDengine
怎么入门数据库编程?需要学习哪些知识点?这是新手们刚接触编程时常见的问题;下面golang学习网就来给大家整理分享一些知识点,希望能够给初学者一些帮助。本篇文章就来介绍《运维监控场景下,如何从OpenTSDB迁移到TDengine》,涉及到MySQL、数据库、Elasticsearch、MariaDB,有需要的可以收藏一下
OpenTSDB是一个经典的时序数据库系统,它没有开发自己的存储引擎,而是基于HBase,对于已经有HBase基础服务的企业而言,降低了门槛。而且得益于其先发优势,OpenTSDB在运维监控领域有不少应用。不过也因为要依赖HBase,系统的性能、压缩效率逐渐成为瓶颈。随着业务系统规模的扩大,部署成本、运行效率等方面的问题日益严重。此外,OpenTSDB的功能升级也比较缓慢。 与之相比,TDengine有着明显的优势:
数据写入和查询的性能远超OpenTSDB;
针对时序数据的高效压缩机制,压缩后在磁盘上的存储空间不到OpenTSDB的1/5;
安装部署非常简单,单一安装包完成安装部署,除了taosAdapter需要依赖Go运行环境外,不依赖其他第三方软件,整个安装部署非常迅速;
提供的内建函数覆盖OpenTSDB支持的全部查询函数,还支持更多的时序数据查询函数、标量函数及聚合函数,支持多种时间窗口聚合、连接查询、表达式运算、多种分组聚合、用户定义排序、以及用户定义函数等高级查询功能。采用类 SQL 的语法规则,更加简单易学,基本上没有学习成本。
支持多达128个标签,标签总长度可达到16KB;
除HTTP 之外,还提供Java、Python、C、Rust、Go 等多种语言的接口。
如果我们将原本运行在OpenTSDB上的应用迁移到 TDengine 上,不仅可以有效降低计算和存储资源的占用、减少部署服务器的规模,还能够极大减少运行维护成本,让运维管理工作更简单、更轻松,大幅降低总拥有成本。
本文将以“使用最典型并广泛应用的运维监控场景”来说明,不用编写一行代码,如何将基于OpenTSDB的应用快速、安全、可靠地迁移到 TDengine之上。
1、典型运维监控应用场景
一个典型的运维监控应用场景的系统整体的架构如下图(图1) 所示。
图1. 运维监控场景典型架构
图1. 运维监控场景典型架构
在该应用场景中,包含了部署在应用环境中负责收集机器度量(Metrics)、网络度量(Metrics)以及应用度量(Metrics)的 Agent 工具,汇聚Agent所收集信息的数据收集器,负责数据持久化存储和管理的系统以及监控数据可视化工具(例如:Grafana等)。
其中,部署在应用节点的Agent负责向collectd/Statsd提供不同来源的运行指标,collectd/StatsD则负责将汇聚的数据推送到OpenTSDB集群系统,然后使用Grafana将数据以可视化的方式呈现出来。
2、迁移服务
TDengine 安装部署
首先是TDengine的安装,从官网上下载TDengine最新稳定版,解压缩后运行install.sh进行安装。各种安装包的使用帮助可参考《TDengine多种安装包的安装和卸载》。 注意,安装完成以后,不要立即启动 taosd 服务,在正确配置完成参数以后再启动。
调整数据收集器配置
在TDengine 2.3版本中,在后台服务taosd启动后,一个叫taosAdapter的HTTP的服务也会自动启用。利用taosAdapter,能够兼容Influxdb的Line Protocol和OpenTSDB的telnet/Json写入协议,所以我们可以将collectd和StatsD收集的数据直接推送到TDengine。
如果使用collectd,修改其默认位置在/etc/collectd/collectd.conf的配置文件,使其指向taosAdapter部署的节点IP地址和端口。假设taosAdapter的IP地址为192.168.1.130,端口为 6046,配置如下:
LoadPlugin write_tsdb
<node> Host "192.168.1.130" Port "6046" HostTags "status=production" StoreRates false AlwaysAppendDS false </node>
这样collectd就可以通过taosAdapter将数据写入TDengine了。如果使用的是StatsD,可以相应地调整配置文件。
调整看板(Dashborad)系统
在数据能够正常写入TDengine后,可以调整适配Grafana,将写入TDengine的数据可视化呈现出来。在TDengine的安装目录下有为Grafana提供的连接插件(connector/grafanaplugin)。使用很简单:
首先将grafanaplugin目录下的dist目录整体拷贝到Grafana的插件目录(默认地址为 /var/lib/grafana/plugins/),然后重启Grafana,即可在Add Data Source菜单下看见 TDengine 数据源。
此外,TDengine还提供了两套默认的Dashboard 模板,供用户快速查看保存到TDengine库里的信息。只需要其导入到Grafana中并激活。
图2. 导入Grafana模板
至此,我们就完成了将OpenTSDB替换成为TDengine的迁移工作。可以看到整个流程非常简单,不需要写代码,只需要调整某个配置文件。
3、迁移后架构
完成迁移以后,此时的系统整体的架构如下图(图3)所示,而整个过程中采集端、数据写入端、以及监控呈现端均保持了稳定,除了极少的配置调整外,不涉及任何重要的更改和变动。
https://max.book118.com/html/...
https://max.book118.com/html/...
https://max.book118.com/html/...
https://max.book118.com/html/...
https://max.book118.com/html/...
https://max.book118.com/html/...
图3. 迁移完成后的系统架构
OpenTSDB的主要应用场景就是运维监控,这种情况下我们可以轻松完成向TDengine的迁移,从而用上 TDengine更加强大的处理能力和查询性能。
在绝大多数运维监控场景中,如果拥有一个小规模的OpenTSDB集群(3台及以下的节点)作为监控数据的存储端,依赖OpenTSDB所提供的数据存储和查询功能,那么可以安全地将其替换为TDengine,并节约更多的计算和存储资源。在同等计算资源配置情况下,单台TDengine即可实现3 ~ 5台OpenTSDB节点提供的服务能力。如果规模比较大,那便需要采用TDengine集群。
如果应用特别复杂,或者应用领域并不是运维监控场景,你可以继续阅读下一篇文章,更加全面深入地了解将OpenTSDB应用迁移到TDengine的高级话题。
今天关于《运维监控场景下,如何从OpenTSDB迁移到TDengine》的内容就介绍到这里了,是不是学起来一目了然!想要了解更多关于mysql的内容请关注golang学习网公众号!

- 上一篇
- 一条sql的执行过程及顺序

- 下一篇
- 紫金桥组态软件操作SQL关系数据库
-
- 简单的香氛
- 太细致了,已收藏,感谢作者的这篇文章内容,我会继续支持!
- 2023-05-07 19:09:40
-
- 调皮的薯片
- 这篇博文太及时了,太细致了,感谢大佬分享,码住,关注老哥了!希望老哥能多写数据库相关的文章。
- 2023-05-03 16:54:30
-
- 柔弱的钥匙
- 这篇文章内容真及时,太详细了,受益颇多,码住,关注师傅了!希望师傅能多写数据库相关的文章。
- 2023-04-05 22:51:41
-
- 无限的保温杯
- 受益颇多,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢博主分享文章内容!
- 2023-03-21 16:32:01
-
- 粗心的鼠标
- 感谢大佬分享,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢作者大大分享技术文章!
- 2023-02-14 07:04:40
-
- 数据库 · MySQL | 16小时前 |
- 如何检测电脑是否安装MySQL的5种方法
- 278浏览 收藏
-
- 数据库 · MySQL | 18小时前 |
- MySQL分区表查询优化技巧
- 126浏览 收藏
-
- 数据库 · MySQL | 19小时前 |
- MySQL建库语句与字符集设置教程
- 414浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- MySQL中AS别名用法详解
- 320浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- MySQL创建带主键的表实例
- 247浏览 收藏
-
- 数据库 · MySQL | 3天前 |
- 主外键关系怎么建立?
- 149浏览 收藏
-
- 数据库 · MySQL | 3天前 |
- MySQL中IF函数使用详解
- 392浏览 收藏
-
- 数据库 · MySQL | 3天前 |
- MySQL中IF函数使用详解
- 268浏览 收藏
-
- 数据库 · MySQL | 4天前 |
- MySQL入门:核心概念与操作全解析
- 162浏览 收藏
-
- 数据库 · MySQL | 4天前 |
- MySQL事务是什么?如何保证数据一致性?
- 349浏览 收藏
-
- 数据库 · MySQL | 4天前 |
- MySQL数据分片实现方法及常见方案解析
- 363浏览 收藏
-
- 数据库 · MySQL | 5天前 |
- MySQL基础:增删改查全教程
- 345浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 514次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 499次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- AI Mermaid流程图
- SEO AI Mermaid 流程图工具:基于 Mermaid 语法,AI 辅助,自然语言生成流程图,提升可视化创作效率,适用于开发者、产品经理、教育工作者。
- 659次使用
-
- 搜获客【笔记生成器】
- 搜获客笔记生成器,国内首个聚焦小红书医美垂类的AI文案工具。1500万爆款文案库,行业专属算法,助您高效创作合规、引流的医美笔记,提升运营效率,引爆小红书流量!
- 670次使用
-
- iTerms
- iTerms是一款专业的一站式法律AI工作台,提供AI合同审查、AI合同起草及AI法律问答服务。通过智能问答、深度思考与联网检索,助您高效检索法律法规与司法判例,告别传统模板,实现合同一键起草与在线编辑,大幅提升法律事务处理效率。
- 692次使用
-
- TokenPony
- TokenPony是讯盟科技旗下的AI大模型聚合API平台。通过统一接口接入DeepSeek、Kimi、Qwen等主流模型,支持1024K超长上下文,实现零配置、免部署、极速响应与高性价比的AI应用开发,助力专业用户轻松构建智能服务。
- 757次使用
-
- 迅捷AIPPT
- 迅捷AIPPT是一款高效AI智能PPT生成软件,一键智能生成精美演示文稿。内置海量专业模板、多样风格,支持自定义大纲,助您轻松制作高质量PPT,大幅节省时间。
- 647次使用
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- 搞一个自娱自乐的博客(二) 架构搭建
- 2023-02-16 244浏览
-
- B-Tree、B+Tree以及B-link Tree
- 2023-01-19 235浏览
-
- mysql面试题
- 2023-01-17 157浏览
-
- MySQL数据表简单查询
- 2023-01-10 101浏览