深度剖析:Doris 数据库如何借助 Prometheus 与 Grafana 实现高效监控

Prometheus 与 Grafana 监控Doris 数据库详解

一、Doris数据库背景

Doris(Apache Doris)是一个现代化的MPP(Massive Parallel Processing,大规模并行处理)数据库,主要用于在线分析处理(OLAP)场景。


二、Doris数据库的特点

高性能:Doris采用了列式存储和MPP架构,能够对海量数据进行快速查询。

易用性:提供了类似SQL的查询接口,易于上手和使用。

实时性:支持实时数据更新和查询,适用于实时数据分析场景。

兼容性:支持多种数据源接入,如MySQL、Apache Hive、Apache HDFS等。

高可用:支持集群部署,具有容错和自动恢复功能。


三、Doris数据库的架构

前端:FE(Frontend)节点负责接收查询请求、查询解析、查询计划生成和执行。

后端:BE(Backend)节点负责数据存储、查询执行和数据导入等操作。

元数据管理:采用分布式元数据管理,保证了系统的高可用性和扩展性。


四、Doris数据库的部署

对于Doris数据库的架构方式分为前端和后端的方式,因此我们要分别部署前端和后端两部分。

准备4核心+4G内存+10G硬盘的centos7 X86的Linux虚拟机。

1.拉取Doris数据库的安装包

Wget https://apache-doris-releases.oss-accelerate.aliyuncs.com/apache-doris-2.0.12-bin-x64.tar.gz

2.解压安装包到/usr/local/目录下

tar xzvf apache-doris-2.0.12-bin-x64.tar.gz -C /usr/local/

3.给安装目录重新命名

mv apache-doris-2.0.12-bin-x64 apache-doris

4.在目录下分为3部分

fQpnuNef679192337dda4.png

5.安装Doris数据库需要jdk8的环境

yum install -y java-1.8.0-openjdk.x86_64

6.部署fe

vim fe/conf/fe.conf

7.加上fe的jdk的环境变量

PJcRKqkc6791924e343dc.png

8.启动fe

./bin/start_fe.sh --daemon

9.部署be

vim be/conf/be.conf

10.加上be的jdk的环境变量

jLKniuzd679192736fddd.png

11.启动be

GfSxS92f6791927f78677.png

12.启动be时需要执行三条命令

sysctl -w vm.max_map_count=2000000

ulimit -n 60000
swapoff -a

13.在mysql官网中下载mysql的客户端(Doris数据库需要使用mysql客户端进行连接)

14.连接Doris数据库的fe

mysql -uroot -P9030 -h127.0.0.1

15.将be添加到集群

ALTER SYSTEM ADD BACKEND "be_host_ip:heartbeat_service_port";(自己主机IP加上默认端口9050)

16.修改root密码和admin密码

SET PASSWORD FOR 'root' = PASSWORD('p@ssw0rd');

SET PASSWORD FOR 'admin' = PASSWORD('p@ssw0rd');

17.Doris数据库部署完成


五、部署prometheus并监控Doris数据库

1.在官网中下载prometheus的安装包

https://prometheus.io/download/

2.解压tar包

tar xzvf prometheus-3.0.1.linux-amd64.tar.gz 

3.修改prometheus.yml配置文件监控Doris数据库

vim prometheus.yml

4.Doris数据库自带metrics的接口,prometheus可以直接拿取数据,不用安装export

5.设置metrics的地址以及组

RyEf4sfR679192d2e8c39.png

6.启动prometheus

nohup ./prometheus --web.listen-address="0.0.0.0:8181"

7.停止防火墙

Systemctl stop firewalld

8.访问网址看是否监控成功

http://192.168.91.170:8181

dgaVkRR2679192f36334f.png

PsmJ0Ymd679192fc83223.png

六、部署grafana

1.安装grafana

yum install -y https://dl.grafana.com/enterprise/release/grafana-enterprise-11.3.1-1.x86_64.rpm

2.启动grafana服务

systemctl start grafana-server.service

PH1Sz6bC679193329ce4d.png

3.访问网址(密码是默认密码admin/admin)

http://192.168.91.170:3000

WzCBaeBO6791937e2a434.png

七、联动prometheus+grafana

1.配置数据源

LMNAKFAz679193a5244c5.png

Prometheus的地址

MhE4oTlR679193b74fd65.png

TyshKFpV679193cc111d3.png

2.导入dashboard(从官网找一些dashboard导入即可)

n4htKUox679193e514816.png

3.查看指标(Doris数据库的指标)

Yg1Ww6aH679193fd2b273.png

  • 发表于 2025-01-23 08:58
  • 阅读 ( 1317 )
  • 分类:prometheus

相关问题

0 条评论

请先 登录 后评论
乐维君
乐维君

411 篇文章

作家榜 »

  1. 乐维君 411 文章
  2. YOHOHO 14 文章
  3. 机灵小和尚 13 文章
  4. 细雨闲花 12 文章
  5. 我是一只小菜鸡 12 文章
  6. 。。。 9 文章
  7. 御前侍卫张五哥 9 文章
  8. 小黄人 8 文章