ElasticSearch实战(二)-核心概念之NRT/Document/Index/分片/副本

1 lucene VS elasticsearch

lucene，最先进、功能最强大的Java搜索类库。直接基于lucene开发，非常复杂，api复杂（实现简单功能，写大量java代码），需要深入理解原理（各种索引结构）。

elasticsearch，基于lucene，隐藏复杂性，提供简单易用的restful api接口、java api接口（还有其他语言的api接口）

（1）分布式的文档存储引擎

（2）分布式的搜索引擎和分析引擎

（3）分布式，支持PB级数据

开箱即用，优秀的默认参数，不需要任何额外设置，完全开源。

2 核心概念

2.1 近实时-Near Realtime(NRT)

从写入数据到数据可以被搜索到有一个小延迟（大概1秒），基于es执行搜索和分析可以达到秒级。

2.2 集群-Cluster

包含多个节点，每个节点属于哪个集群是通过一个配置（集群名称，默认是elasticsearch）决定。

对于中小型应用来说，刚开始一个集群就一个节点很正常。

2.3 节点-Node

集群中的一个节点，节点也有一个名称（默认是随机分配的），节点名称很重要（在执行运维管理操作的时候），默认节点会去加入一个名称为“elasticsearch”的集群，如果直接启动一堆节点，那么它们会自动组成一个elasticsearch集群，当然一个节点也可以组成一个elasticsearch集群

2.4 索引-Index(表)

由具有相同字段的文档列表组成，包含一堆相似结构的文档数据。

比如可以有一个客户索引，商品分类索引，订单索引。索引有一个名称

一个index包含很多document，一个index就代表了一类类似/相同的document。

比如建立一个product index 商品索引，里面可能就存放了所有的商品数据（商品document）。

索引中存储具有相同结构的文档(Document)

每个索引都有自己的mapping定义（类似 MySQL 的 schema），用于定义字段名和类型

一个集群可以有多个索引，比如

nginx日志存储的时候可以按照日期每天生成一个索引来存储

nginx-log-2020-01-01

nginx-log-2020-01-02

nginx-log-2020-01-03

2.5 Document & field（行 & 列）

document

JSON结构，用户存储在 ES 中的数据文档。一个document可以是一条客户数据，一条商品分类数据，一条订单数据。由字段 Filed 组成。

每个文档有唯一的id标识：

自行指定

es自动生成

字符串

text、keyword

数值型

long、integer、short, byte, double, float half_float, scaled_float

布尔

boolean

日期

date

二进制

binary

范围

integer_range, float_range, long_range, double_range, date_ range

_ index: 文档所在的索引名

_type: 文档所在的类型名

_id:文档唯一id

_uid：组合id,由type和. jid 组成(ES 6.x开始 _type不再起作用，同_id)

_source：文档原始JSON数据，存储了文档的完整原始数据，可从这里获取每个字段内容

_all：整合所有字段内容到该字段，默认禁用，因其针对所有字段内容分词，很占磁盘空间

field

每个index下的type，都可以存储多个document。一个document里面有多个field，每个field就是一个数据字段列。

product document { "product_id": "1", "product_name": "JavaEdge 公众号", "product_desc": "全是技术干货", "category_id": "2", "category_name": "技术追求" }

1

2

3

4

5

6

7

8

2.6 shard

单台机器无法存储大量数据，es可以将一个索引中的数据切分为多个shard，分布在多台服务器上存储

有了shard就可以横向扩展，存储更多数据，让搜索和分析等操作分布到多台服务器上去执行，提升吞吐量和性能

每个shard都是一个lucene index。

2.7 replica

任何一个服务器随时可能故障或宕机，此时shard可能就会丢失，因此可以为每个shard创建多个replica副本。

replica可以在shard故障时提供备用服务，保证数据不丢失，多个replica还可以提升搜索操作的吞吐量和性能。primary shard（建立索引时一次设置，不能修改，默认5个），replica shard（随时修改数量，默认1个），默认每个索引10个shard，5个primary shard，5个replica shard，最小的高可用配置，是2台服务器。

shard和replica的解释

类型 Type（表逻辑类型）ES 7.x中已废除

每个index都可有一或多个type，type是index的一个逻辑数据分类。

一个type下的document，都有相同field。

比如博客系统，有一个索引，可定义用户数据type，博客数据type，评论数据type。

商品index，里面存放了所有的商品数据，商品document

但是商品分很多种类，每个种类的document的field可能不太一样

比如说电器商品，可能还包含一些诸如售后时间范围这样的特殊field；生鲜商品，还包含一些诸如生鲜保质期之类的特殊field

type，日化商品type，电器商品type，生鲜商品type

日化商品type：product_id，product_name，product_desc，category_id，category_name 电器商品type：product_id，product_name，product_desc，category_id，category_name，service_period 生鲜商品type：product_id，product_name，product_desc，category_id，category_name，eat_period

1

2

3

每个type里，包含一堆document

{ "product_id": "2", "product_name": "长虹电视机", "product_desc": "4k高清", "category_id": "3", "category_name": "电器", "service_period": "1年" } { "product_id": "3", "product_name": "基围虾", "product_desc": "纯天然，冰岛产", "category_id": "4", "category_name": "生鲜", "eat_period": "7天" }

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

3 RESTful API（REpresentational State Transfer）

Elasticsearch 集群对外提供RESTful API

URI 指定资源 , 如 Index、Document等

Http Method 指明资源操作类型，如GET、POST、 PUT、DELETE

交互方式

curl 命令行

Kibana DevTools

Elasticsearch 实时流计算服务 CS

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。