博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Greenplum集群部署小记
阅读量:2448 次
发布时间:2019-05-10

本文共 2133 字,大约阅读时间需要 7 分钟。

Greenplum的分布式架构方案MPP对于海量数据处理还是很给力的,今天专门抽时间搭建了一下测试环境。

首先来简单看下Greenplum的架构,这个和Oracle,MySQL还是大不同。

它里面几乎糅括了所有的主从角色概念,比如GP节点就类似于一个集群分发器,是有standby的角色的,数据节点是segment,是有primary和mirror做为互备高可用的。

Greenplum集群部署小记

限于环境情况,我用了3台虚拟机来模拟这个集群。

其中gp01是GP计算节点,gp02,gp03是segment和mirro节点。

192.168.206.129 gp01

192.168.206.128 gp02

192.168.206.130 gp03

GP节点的standby在gp02上面。

部署的时候我用了4个segment.

所以gp02上面的结构是这样的:

primary1

primary2

mirror1

mirror2

gp_standby

gp03的结构是这样的:

primary3

primary4

mirror3

mirror4

搭建GP的过程其实还是有点曲折的,但是技术点其实不是很多,回过头来看复杂度其实还好。

我们需要创建GP的标准用户,比如gpadmin

groupadd gpadmin

useradd -g gpadmin gpadmin

passwd gpadmin

为了能够在各个节点上面做到适配和统一,每个节点都可以建立一套统一的目录结构,比如:

cd /data

mkdir -p /data/greenplum_data/{gpmaster,gpdatap1,gpdatap2,gpdatap3,gpdatap4,gpdatap5,gpdatap6,gpdatam1,gpdatam2,gpdatam3,gpdatam4,gpdatam5,gpdatam6}

chown -R gpadmin:gpadmin /data/greenplum_data/

需要注意的是主机的配置,这里建议是使用主机名的方式,避免是IP的方式。

cat /etc/hosts

192.168.206.129 gp01

192.168.206.128 gp02

192.168.206.130 gp03

前期的基本准备就差不多这些,比如内核参数,比如安装包等先略过了。

值得一提的是两个工具gpssh和gpscp,是用Python实现的,可以简单封装一下,就能拿过来自己用了。在部署的时候还是很清晰的。

gpssh

gpscp

还有一点不错的就是GP的安装自带了一个配置文件,这个确实很省事。

source /usr/local/greenplum-db/greenplum_path.sh

软件的部署就是解压的过程,没什么可说的了。

说下创建数据库吧。

初始化几个变量:

export MASTER_DATA_DIRECTORY=/data/greenplum_data/gpmaster

export PGPRORT=5432

export PGDATABASE=testDB

核心就是配置文件 init_seg_mirror_config了,内容如下:

ARRAY_NAME="Greenplum"

MACHINE_LIST_FILE=/usr/local/greenplum-db/config/seg_hosts

SEG_PREFIX=gpseg

PORT_BASE=33000

declare -a DATA_DIRECTORY=(/data/greenplum_data/gpdatap1 /data/greenplum_data/gpdatap2 )

MASTER_HOSTNAME=gp01

MASTER_DIRECTORY=/data/greenplum_data/gpmaster

MASTER_PORT=5432

TRUSTED_SHELL=ssh

CHECK_POINT_SEGMENTS=8

ENCODING=UTF-8

MIRROR_PORT_BASE=43000

REPLICATION_PORT_BASE=34000

MIRROR_REPLICATION_PORT_BASE=44000

declare -a MIRROR_DATA_DIRECTORY=(/data/greenplum_data/gpdatam2 /data/greenplum_data/gpdatam1)

DATABASE_NAME=testDB

安装使用如下的方式即可。

gpinitsystem -c ./init_seg_mirror_config --locale=C --max_connections=48 --su_password=gpadmin -s gp02

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/23718752/viewspace-2155511/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/23718752/viewspace-2155511/

你可能感兴趣的文章
pubg 接口在哪里_如何在PUBG中获取绿血
查看>>
node压缩css_Node.js CSS压缩器:clean-css
查看>>
JavaScript CSS助手
查看>>
邪恶的AJAX:使用jQuery的Spyjax
查看>>
css指针悬停_CSS指针事件
查看>>
目标检测 多分辨率检测_检测视频分辨率
查看>>
ip校验和 tcp校验和_如何校验和
查看>>
Firefox Marketplace动画按钮
查看>>
object.freeze_Object.freeze:不可变对象
查看>>
css文本显示_CSS技巧— CSS和文本选择与突出显示
查看>>
移动端 调试按钮 meta_使用META标签覆盖Vista和XP的主题按钮和滚动条
查看>>
css实现联动菜单隐藏功能_使用CSS的隐藏辅助功能消息
查看>>
无精打采的导航–使用CSS事半功倍
查看>>
ftp文件夹错误 参数错误_收藏夹和404错误
查看>>
css 背景闪烁_防止IE6 CSS背景闪烁
查看>>
css鼠标指针光标样式_高级CSS光标–通过指针提高可用性
查看>>
桌面图标每个上都带个空白页_创建带有数据的空白图标
查看>>
怎么优化优化css动画_使用CSS优化网站内容以进行打印
查看>>
css链接到另一个css_高级CSS链接–增强您的链接
查看>>
css高级颜色_高级CSS表–使用CSS3替代行颜色
查看>>