es数据的冷热分离实验

注意：演示用的2节点es，有些参数配置不太合理，生产环境还需要更严格的参数设定(例如必须开启密码验证)。

系统版本：CentOS7

节点规划：

热数据节点： 192.168.2.4

温数据节点： 192.168.2.190

PS：这里就没分 hot warm cold 这种三级存储，我们一般使用 hot warm 2种即可。

我们这里使用 tar.gz 通用二进制文件

useradd es

# cat /etc/security/limits.d/elasticsearch.conf

es - nofile 65535es - noproc 65535es - memlock unlimited

cd /usr/local/elasticsearch-7.4.2/

mkdir data logs

chown es.es /usr/local/elasticsearch-7.4.2/ -R

su - es

cd /usr/local/elasticsearch-7.4.2/

热数据节点： 192.168.2.4 的配置如下：

cat config/elasticsearch.yml

cluster.name: my-applicationnode.name: node-1node.attr.rack: r1node.attr.temperature: hotpath.data: ./data/path.logs: ./logsnode.master: truenode.data: truenode.ingest: truebootstrap.memory_lock: truenetwork.host: 0.0.0.0http.port: 9200cluster.initial_master_nodes:   - 192.168.2.4:9300  - 192.168.2.190:9300  discovery.seed_hosts:  - 192.168.2.4  - 192.168.2.190  gateway.recover_after_nodes: 1#action.destructive_requires_name: true############# xpack 的配置项 #####################xpack.security.enabled: true#xpack.security.transport.ssl.enabled: truexpack.security.audit.enabled: truexpack.security.audit.logfile.events.include: access_denied, access_granted, anonymous_access_denied, authentication_failed,connection_denied, tampered_request, run_as_denied, run_as_grantedxpack.security.audit.logfile.emit_node_host_address: truexpack.security.audit.logfile.emit_node_host_name: truexpack.sql.enabled: truexpack.ilm.enabled: true

温数据节点： 192.168.2.190

cat config/elasticsearch.yml

cluster.name: my-applicationnode.name: es11node.attr.rack: r1node.attr.temperature: warmpath.data: ./data/path.logs: ./logsnode.master: truenode.data: truenode.ingest: truebootstrap.memory_lock: truenetwork.host: 0.0.0.0http.port: 9200cluster.initial_master_nodes:   - 192.168.2.4:9300  - 192.168.2.190:9300  discovery.seed_hosts:  - 192.168.2.4  - 192.168.2.190gateway.recover_after_nodes: 1#action.destructive_requires_name: true############# xpack 的配置项 #####################xpack.security.enabled: true#xpack.security.transport.ssl.enabled: truexpack.security.audit.enabled: truexpack.security.audit.logfile.events.include: access_denied, access_granted, anonymous_access_denied, authentication_failed,connection_denied, tampered_request, run_as_denied, run_as_grantedxpack.security.audit.logfile.emit_node_host_address: truexpack.security.audit.logfile.emit_node_host_name: truexpack.sql.enabled: truexpack.ilm.enabled: true

启动脚本：

# cat start.sh

# es 依赖高版本的jdk 需要先export下export JAVA_HOME=./jdk/nohup ./bin/elasticsearch >/dev/null 2>&1 &

停止脚本：

# cat stop.sh

kill $(jps| grep Elasticsearch | awk '{print $1}')

创建索引，并将数据搬迁到hot节点：

curl -H 'Content-Type: application/json' -X PUT http://localhost:9200/index-2019.10.19?prettycurl -H 'Content-Type: application/json' -X PUT http://localhost:9200/index-2019.10.19/_settings -d '{  "index.routing.allocation.require.temperature": "hot"}'

如果要将 index-2019.10.19 的数据搬迁到温节点，我们使用下面的这个命令就行

curl -H 'Content-Type: application/json' -X PUT http://localhost:9200/index-2019.10.19/_settings -d '{  "index.routing.allocation.require.temperature": "warm"}'

流程跑通后，我们可以写个脚本，作用有2个：

1、提前创建后一天的索引，并确保将其落到hot节点

2、将7天前的索引，打标签，存放到es的warm节点(大容量HDD磁盘)：

#!/bin/bash# 创建新的索引，语句类似下面5行，需要根据自己情况修改(建议使用for循环创建index)# curl -H 'Content-Type: application/json' -X PUT http://localhost:9200/index-2019.10.19?pretty# curl -H 'Content-Type: application/json' -X PUT http://localhost:9200/index-2019.10.19/_settings -d '# {#   "index.routing.allocation.require.temperature": "hot"# }'day=$(date +"%Y.%m.%d" -d -7day)curl -H 'Content-Type: application/json'  -X PUT http://192.168.2.4:9200/*-${day}/_settings -d '{  "index.routing.allocation.require.temperature": "warm"}'

另外， 在es7里面 提供 index-lifecycle-management 这个功能， 我们在kibana 界面里面就可以进行配置。 具体可以查阅es官方的文档（个人还是比较喜欢用上面的这种脚本的方案）。