mongodb分片集群-搭建笔记.md · jinit-study/stage4-module3

#### 一、要求：

业务场景：用户在拉勾网投递简历时，我们会为每次投递的简历生成一份快照，将快照信息存储到 MongoDB中。

功能需求：搭建MongoDB分片集群，模拟简历快照数据进行操作，具体要求如下：

1. 如图搭建一个分片集群，要求每个分片节点中的复制集含有一个仲裁节点
2. 使用权限控制，建立要访问的数据库lg_resume，这个账号名字是lagou_gx、密码是abc321 这个账号对数据库有读写权限 
3. 使用SpringBoot 进行访问分片集群，对lg_resume 库中的lg_resume_datas 进行增加和查询操作

#### 二、环境规划：

本集群采用伪集群方式搭建，所有节点均部署在一台云服务器上，IP:139.155.46.98。

目录一览表：

#### 三、集群搭建

##### 3.1、配置集群

配置节点1（primary）：c17017.conf

```properties
# 数据库文件位置
dbpath=/jinit/mongodb/config/c17017
# 日志文件位置
logpath=/jinit/mongodb/config/logs/c17017.log
# 追加方式写入日志
logappend=true
# fork守护进程
fork=true
# 绑定IP
bind_ip=0.0.0.0
# 端口
port=17017
# 标志为配置服务器
configsvr=true
# 配置服务器副本集名称
replSet=configsvr
```

配置节点2（secondary）：c17018.conf

```properties
# 数据库文件位置
dbpath=/jinit/mongodb/config/c17018
# 日志文件位置
logpath=/jinit/mongodb/config/logs/c17018.log
# 追加方式写入日志
logappend=true
# fork守护进程
fork=true
# 绑定IP
bind_ip=0.0.0.0
# 端口
port=17018
# 标志为配置服务器
configsvr=true
# 配置服务器副本集名称
replSet=configsvr
```

配置节点3（secondary）：c17019.conf

```properties
# 数据库文件位置
dbpath=/jinit/mongodb/config/c17019
# 日志文件位置
logpath=/jinit/mongodb/config/logs/c17019.log
# 追加方式写入日志
logappend=true
# fork守护进程
fork=true
# 绑定IP
bind_ip=0.0.0.0
# 端口
port=17019
# 标志为配置服务器
configsvr=true
# 配置服务器副本集名称
replSet=configsvr
```

启动配置节点：

进入mongodb-4.1.3目录：

```
./bin/mongod -f config/c17017.conf
./bin/mongod -f config/c17018.conf
./bin/mongod -f config/c17019.conf
```

进入任意节点的mongo shell 添加配置节点集群，在添加配置节点集群的时候，注意use admin数据库。

配置集群成员并初始化，然后使用rs.status()查看集群状态。

```js
./bin/mongo --port 17017

use admin

##### 3.2、分片集群

###### 3.2.1、分片集群1

shard1集群节点包含37017、37018、37019、37020，将37020作为仲裁节点。

分片集群1-节点1（primary）：s37017.conf

```properties
# 数据库文件位置
dbpath=/jinit/mongodb/shard/shard1/s37017
# 日志文件位置
logpath=/jinit/mongodb/shard/logs/s37017.log
# 追加方式写入日志
logappend=true
# fork守护进程
fork=true
# 绑定IP
bind_ip=0.0.0.0
# 端口
port=37017
# 标志为分片服务器
shardsvr=true
# 分片服务器副本集名称
replSet=shard1
```

分片集群1-节点2（secondary）：s37018.conf

```properties
# 数据库文件位置
dbpath=/jinit/mongodb/shard/shard1/s37018
# 日志文件位置
logpath=/jinit/mongodb/shard/logs/s37018.log
# 追加方式写入日志
logappend=true
# fork守护进程
fork=true
# 绑定IP
bind_ip=0.0.0.0
# 端口
port=37018
# 标志为分片服务器
shardsvr=true
# 分片服务器副本集名称
replSet=shard1
```

分片集群1-节点3（secondary）：s37019.conf

```properties
# 数据库文件位置
dbpath=/jinit/mongodb/shard/shard1/s37019
# 日志文件位置
logpath=/jinit/mongodb/shard/logs/s37019.log
# 追加方式写入日志
logappend=true
# fork守护进程
fork=true
# 绑定IP
bind_ip=0.0.0.0
# 端口
port=37019
# 标志为分片服务器
shardsvr=true
# 分片服务器副本集名称
replSet=shard1
```

分片集群1-节点4（arbiter）：s37020.conf

```properties
# 数据库文件位置
dbpath=/jinit/mongodb/shard/shard1/s37020
# 日志文件位置
logpath=/jinit/mongodb/shard/logs/s37020.log
# 追加方式写入日志
logappend=true
# fork守护进程
fork=true
# 绑定IP
bind_ip=0.0.0.0
# 端口
port=37020
# 标志为分片服务器
shardsvr=true
# 分片服务器副本集名称
replSet=shard1
```

启动分片节点：

进入mongodb-4.1.3目录：

```
./bin/mongod -f config/s37017.conf
./bin/mongod -f config/s37018.conf
./bin/mongod -f config/s37019.conf
./bin/mongod -f config/s37020.conf
```

进入任意节点的mongo shell 添加配置节点集群，在添加配置节点集群的时候，注意use admin数据库。

配置集群成员并初始化，然后使用rs.status()查看集群状态。

```js
./bin/mongo -port 37017

use admin

var cfg = {"_id":"shard1",
"protocolVersion":1,
  "members":[
    {"_id":1,"host":"139.155.46.98:37017","priority":10},
    {"_id":2,"host":"139.155.46.98:37018","priority":5},
    {"_id":3,"host":"139.155.46.98:37019","priority":0},
    {"_id":4,"host":"139.155.46.98:37020","arbiterOnly":true}
  ]
};

rs.initiate(cfg);
rs.status();
```

###### 3.2.2、分片集群2、3

**shard2、shard3 配置步骤与shard1类似**

###### 3.3、路由节点

路由节点（route）, r27017.conf

```properties
# 端口
port=27017
# 绑定IP
bind_ip=0.0.0.0
# fork
fork=true
# 日志文件
logpath=/jinit/mongodb/route/logs/r27017.log
# 追加方式记录日志
logappend=true
# 配置集群
configdb=configsvr/139.155.46.98:17017,139.155.46.98:17018,139.155.46.98:17019
```

采用mongs启动路由节点。

```
./bin/mongos -f config/r27017.conf 
```

mongos添加分片节点:

```js
./bin/mongo -port 27017

sh.status()

sh.addShard("shard1/139.155.46.98:37017,139.155.46.98:37018,139.155.46.98:37019,139.155.46.98:37020");
sh.addShard("shard2/139.155.46.98:47017,139.155.46.98:47018,139.155.46.98:47019,139.155.46.98:47020");
sh.addShard("shard3/139.155.46.98:57017,139.155.46.98:57018,139.155.46.98:57019,139.155.46.98:57020");

sh.status()
```

#### 四、开启分片(指定片键)

使用mongos完成分片开启和分片大小设置。

存储简历快照数据库，分片键采用hash算法，对resumeid字段进行分片。

```js
# 开启数据库分片功能
sh.enableSharding("lg_resume");
# 指定集合开启分片功能
sh.shardCollection("lg_resume.lg_resume_datas",{"resumeId":"hashed"})
# 集群状态信息
sh.status();
```

写入测试数据：

```js
db.lg_resume_datas.insert({resumeId:1,name:'测试1',city:'cq',birth_day:new ISODate('2001-08-01'),expectSalary:10000});
db.lg_resume_datas.insert({resumeId:2,name:'测试2',city:'gz',birth_day:new ISODate('2001-08-01'),expectSalary:11000});
db.lg_resume_datas.insert({resumeId:3,name:'测试3',city:'sh',birth_day:new ISODate('2001-08-01'),expectSalary:12000});
db.lg_resume_datas.insert({resumeId:4,name:'测试4',city:'bj',birth_day:new ISODate('2001-08-01'),expectSalary:13000});
db.lg_resume_datas.insert({resumeId:5,name:'测试5',city:'cs',birth_day:new ISODate('1985-08-03'),expectSalary:14000});
db.lg_resume_datas.insert({resumeId:6,name:'测试6',city:'sc',birth_day:new ISODate('1980-08-01'),expectSalary:15000});
db.lg_resume_datas.insert({resumeId:7,name:'测试7',city:'sc',birth_day:new ISODate('1976-08-01'),expectSalary:16000});
db.lg_resume_datas.insert({resumeId:8,name:'测试8',city:'cq',birth_day:new ISODate('1987-08-01'),expectSalary:17000});
db.lg_resume_datas.insert({resumeId:9,name:'测试9',city:'cq',birth_day:new ISODate('2001-08-01'),expectSalary:18000});
```

验证分片效果：

```
./bin/mongo -port 37017
use lagou_resume
db.lagou_resume_datas.find();

./bin/mongo -port 47017
use lagou_resume
db.lagou_resume_datas.find();

./bin/mongo -port 57017
use lagou_resume
db.lagou_resume_datas.find();
```

#### 五、安全认证配置

##### 5.1、集群启动、停止shell脚本

在bin的同级目录编写startup.sh文件，脚本依次启动配置集群、分片集群、路由节点。

```shell
#!/usr/bin/env bash

# 配置集群
./bin/mongod -f config/c17017.conf
./bin/mongod -f config/c17018.conf
./bin/mongod -f config/c17019.conf

# 分片集群
./bin/mongod -f config/s37017.conf
./bin/mongod -f config/s37018.conf
./bin/mongod -f config/s37019.conf
./bin/mongod -f config/s37020.conf
./bin/mongod -f config/s47017.conf
./bin/mongod -f config/s47018.conf
./bin/mongod -f config/s47019.conf
./bin/mongod -f config/s47020.conf
./bin/mongod -f config/s57017.conf
./bin/mongod -f config/s57018.conf
./bin/mongod -f config/s57019.conf
./bin/mongod -f config/s57020.conf

# 路由节点
./bin/mongos -f config/r27017.conf

```

startup.sh执行权限：

```
chmod +x startup.sh 
```

关闭集群所有节点：

采用psmisc关闭所有mongo进程，安装psmisc：yum install -y psmisc

在bin的同级目录编写stop.sh文件

```
#!/usr/bin/env bash
killall mongod
killall mongos
```

##### 5.2、安全认证配置

MongoDB 服务端开启安全检查之前，至少需要有一个管理员账号，admin 数据库中的用户都被视为管理员。如果 admin 库没有任何用户的话，即使在其他数据库中创建了用户，启用身份验证，默认的连接方式依然会有超 级权限，即仍然可以不验证账号密码照样能进行 CRUD，安全认证相当于无效。

创建管理员账号：

```js
use admin;

db.createUser({
		user:"root",
		pwd:"123456",
		roles:[{role:"root",db:"admin"}]
});
```

创建普通账号：

```js
use lg_resume;
db.createUser({
		user:"lagou_gx",
		pwd:"abc321",
		roles:[{role:"readWrite",db:"lg_resume"}]
});
```

生成数字安全密匙:

在bin的同级目录

```
mkdir keyfile
openssl rand -base64 756 > keyfile/testKeyfile.file
chmod 600 keyfile/testKeyfile.file 
```

配置节点和分片节点开启安全认证和指定密匙文件，修改所有的配置节点和分片节点的配置。

```properties
auth=true
keyFile=/jinit/mongodb/mongodb-4.1.3/keyfile/testKeyfile.file
```

修改路由节点配置。

```properties
keyFile=/jinit/mongodb/mongodb-4.1.3/keyfile/testKeyfile.file
```

重启集群(利用shell脚本)：

```
stop.sh
startup.sh
```

安全验证

```
./bin/mongo --port 27017
use lg_resume
show tables;

db.auth("lagou_gx","abc321");
show tables;
db.lg_resume_datas.find();
```

jinit-study/stage4-module3

简介

发行版

贡献者

近期动态

jinit-study/stage4-module3 .gitee-modal { width: 500px !important; }

简介

发行版

贡献者

近期动态

搜索帮助

jinit-study/stage4-module3