2. 架构集群

TiDB 集群多主机安装 分布式存储


编译二进制文件

二进制程序如tidb-server, tikv-server, pd-server都可以在一台主机上编译后分发到其它主机上去，只要保持主机环境基本一致即可。

而RocksDB是编译成动态库文件，在不同主机上共享比较麻烦（甚至无法共享？），所以建议每台放置TiKV组件的主机上都进行一次编译。

注：本次部署是在一台跳板机上进行所有二进制文件的编译。

编译PD

1）安装golang: https://studygolang.com/dl

cd /data/file/soft/src
tar -zxvf go1.11.linux-amd64.tar.gz -C /usr/local/
vim /etc/profile
export GOROOT=/usr/local/go
export GOBIN=$GOROOT/bin
export GOARCH=amd64
export GOOS=linux
export PATH=$PATH:/usr/local/go/bin
source /etc/profile

2）编译PD

cd /data/file/work/go/src/github.com/pingcap/
git clone https://github.com/pingcap/pd
cd pd
make build


安装RocksDB: https://github.com/facebook/rocksdb/releases

wget https://github.com/facebook/rocksdb/archive/rocksdb-***.tar.gz

tar xzvf  rocksdb-5.14.3.tar.gz

apt-get update
apt-get install libgflags-dev libsnappy-dev zlib1g-dev libbz2-dev liblz4-dev -y
cd /data/file/soft/src/rocksdb-rocksdb-5.14.3
make shared_lib -j4
cp librocksdb.so.5.14.3 /usr/local/lib
ln -fs /usr/local/lib/librocksdb.so.5.14.3 /usr/local/lib/librocksdb.so
ln -fs /usr/local/lib/librocksdb.so.5.14.3 /usr/local/lib/librocksdb.so.5
ln -fs /usr/local/lib/librocksdb.so.5.14.3 /usr/local/lib/librocksdb.so.5.14
ldconfig


编译TiKV

1）安装rust

curl https://sh.rustup.rs -sSf | sh -s

2）编译TiKV

git clone https://github.com/pingcap/tikv
cd tikv
make release
# 在TiKV运行主机上
cp target/release/tikv-server /usr/local/bin/


编译TiDB

1）安装golang: https://studygolang.com/dl

cd /data/file/soft/src
tar -zxvf go1.11.linux-amd64.tar.gz -C /usr/local/
vim /etc/profile
export GOROOT=/usr/local/go
export GOBIN=$GOROOT/bin
export GOARCH=amd64
export GOOS=linux
export PATH=$PATH:/usr/local/go/bin
source /etc/profile

2）编译TiDB

git clone https://github.com/pingcap/tidb.git $GOPATH/src/github.com/pingcap/tidb
cd $GOPATH/src/github.com/pingcap/tidb
make server
# 在TiDB运行主机上
cp $GOPATH/bin/tidb-server /usr/local/bin


运行TiDB

运行TiDB需要依次运行：pd, tikv, tidb


架构分布

TiDB: 192.168.100.3, 192.168.100.4, 192.168.100.5 

PD: 192.168.100.6, 192.168.100.7, 192.168.100.8 

TiKV: 192.168.100.9, 192.168.100.10, 192.168.100.11


运行pd

注意 需要在很短时间将几个pd-server同时运行起来，否则会造成找不到的状况，然后一个一个出错退出。

1) pd1（在192.168.100.6这台主机上运行）

pd-server --cluster-id=1 \
      --addr="192.168.100.6:1234" \
      --advertise-addr="192.168.100.6:1234" \
      --http-addr="192.168.100.6:9090" \
      --etcd-name=pd1 \
      --etcd-advertise-client-url="http://192.168.100.6:2379" \
      --etcd-advertise-peer-url="http://192.168.100.6:2380" \
      --etcd-initial-cluster="pd1=http://192.168.100.6:2380,pd2=http://192.168.100.7:2380,pd3=http://192.168.100.8:2380" \
      --etcd-listen-peer-url="http://192.168.100.6:2380" \
      --etcd-listen-client-url="http://192.168.100.6:2379"

2) pd2（在192.168.100.7这台主机上运行）

pd-server --cluster-id=1 \
      --addr="192.168.100.7:1234" \
      --advertise-addr="192.168.100.7:1234" \
      --http-addr="192.168.100.7:9090" \
      --etcd-name=pd2 \
      --etcd-advertise-client-url="http://192.168.100.7:2379" \
      --etcd-advertise-peer-url="http://192.168.100.7:2380" \
      --etcd-initial-cluster="pd1=http://192.168.100.6:2380,pd2=http://192.168.100.7:2380,pd3=http://192.168.100.8:2380" \
      --etcd-listen-peer-url="http://192.168.100.7:2380" \
      --etcd-listen-client-url="http://192.168.100.7:2379"

3) pd3（在192.168.100.8这台主机上运行）

pd-server --cluster-id=1 \
      --addr="192.168.100.8:1234" \
      --advertise-addr="192.168.100.8:1234" \
      --http-addr="192.168.100.8:9090" \
      --etcd-name=pd3 \
      --etcd-advertise-client-url="http://192.168.100.8:2379" \
      --etcd-advertise-peer-url="http://192.168.100.8:2380" \
      --etcd-initial-cluster="pd1=http://192.168.100.6:2380,pd2=http://192.168.100.7:2380,pd3=http://192.168.100.8:2380" \
      --etcd-listen-peer-url="http://192.168.100.8:2380" \
      --etcd-listen-client-url="http://192.168.100.8:2379"


运行TiKV

由于TiKV依赖于RocksDB，所以需要先安装RocksDB。

注意 TiKV二进制文件tikv-server可以在一台主机上编译了放到其它主机上运行，但是RocksDB好像不可以。 所以每一台主机上都需要进行一次RocksDB的安装。

1）安装RocksDB 在 192.168.100.9, 192.168.100.10, 192.168.100.11 这三台主机上，分别进行RocksDB的安装。 2）将编译过后的tikv-server文件分发到上面三台主机上，放到系统PATH目录中。 3）运行TiKV

# 在192.168.100.9这台主机上运行
tikv-server -S raftkv --addr 192.168.100.9:5050 --etcd 192.168.100.6:2379,192.168.100.7:2379,192.168.100.8:2379 -s /data --cluster-id 1
 
# 在192.168.100.10这台主机上运行
tikv-server -S raftkv --addr 192.168.100.10:5050 --etcd 192.168.100.6:2379,192.168.100.7:2379,192.168.100.8:2379 -s /data --cluster-id 1
 
# 在192.168.100.11这台主机上运行
tikv-server -S raftkv --addr 192.168.100.11:5050 --etcd 192.168.100.6:2379,192.168.100.7:2379,192.168.100.8:2379 -s /data --cluster-id 1


运行TiDB

将tidb-server分发到192.168.100.3, 192.168.100.4, 192.168.100.5这三台主机上去，放置于类似/usr/local/bin目录中。

在这三台主机上都运行如下命令：

tidb-server --store=tikv --path="192.168.100.6:2379,192.168.100.7:2379,192.168.100.8:2379/pd?cluster=1" -lease 1 -P 3306


反向代理

三台TiDB同时运行，三者互不干涉，需要一个反向代理来进行负载均衡与流量分发。

这里使用的是Nginx 1.10.1来进行TCP反向代理。


效果

在任意一台机器上，使用MySQL客户端，访问集群，效果如下所示。 


后记

折腾了大半天，终于跑了起来。测试后续补充。


签名：这个人很懒，什么也没有留下！
收藏的用户（0） X
正在加载信息~
猜你喜欢：
最新回复 (0)
返回
发新帖
作者最近主题：
热门主题：
无