analyzer（分析器）

analyzed（被分析）的 string fields（字符串字段）的值通过 analyzer（分析器）来传递，将字符串转换为一串 tokens（标记）标记或者 terms（词条）。例如，基于某种分析器，字符串 "The quick Brown Foxes" 被解析为 : quick，brown，fox。这些是索引该字段的实际 terms（词条），可以用来有效地搜索大块文本内的单个单词。

这样的分析过程不仅发生在索引的时候，而且在查询时也需要 : 查询字符串需要通过相同（或类似的）analyzer分析器传递，以便尝试查找那些存在于索引的相同格式的 terms（词条）。

Elasticsearch 内置了许多 pre-defined analyzers（预定义的分析器），可以在不进一步配置的情况下使用。它还附带许多 character filters（字符过滤器），tokenizers（分词器）和Token Filters（标记过滤器）。可以用来组合配置每个索引的自定义analyzer（分析器）。

每一个查询，每一个字段或索引都可以指定分析器，在索引的时候，Elasticsearch 将按以下顺序查找 analyzer（分析器）:

  • 定义在字段映射中的 analyzer（分析器）。

  • 索引设置中 default（默认）的 analyzer（分析器）。

  • standard（标准的）analyzer（分析器）。

在查询时，还有几层 :

  • 在 full-text query（全文查找）中定义的 analyzer（分析器）。

  • 在字段映射中定义的 search_analyzer（搜索分析器）。

  • 在字段映射中定义的 analyzer（分析器）。

  • 在索引配置中 default_search（默认搜索的）analyzer（分析器）。

  • 索引设置中 default（默认）的 analyzer（分析器）。

  • standard（标准的）analyzer（分析器）。

为特定字段指定分析器的最简单的方法是在字段映射中进行定义，如下所示 :

curl -XPUT 'localhost:9200/my_index?pretty' -H 'Content-Type: application/json' -d'
{
  "mappings": {
    "my_type": {
      "properties": {
        "text": { # 1
          "type": "text",
          "fields": {
            "english": { # 2
              "type":     "text",
              "analyzer": "english"
            }
          }
        }
      }
    }
  }
}
'
curl -XGET 'localhost:9200/my_index/_analyze?pretty' -H 'Content-Type: application/json' -d' # 3
{
  "field": "text",
  "text": "The quick Brown Foxes."
}
'
curl -XGET 'localhost:9200/my_index/_analyze?pretty' -H 'Content-Type: application/json' -d' # 4
{
  "field": "text.english",
  "text": "The quick Brown Foxes."
}
'

search_quote_analyzer（搜索引用分析器）

该search_quote_analyzer设置允许你为短语指定 analyzer（分析器），这在处理禁用短语的 stop words（停用词）时特别有用。

要使用三个 analyzer（分析器）设置来禁用短语的停用词 :

  1. 一个 analyzer（分析器）设置成索引所有的 terms（词条）包括 stop words（停用词）。

  2. 一个 search_analyzer设置成将移除 stop words（停用词）的非短语查询。

  3. 一个search_quote_analyzer设置不会移除 stop words（停用词）的短语查询。

curl -XPUT 'localhost:9200/my_index?pretty' -H 'Content-Type: application/json' -d'
{
   "settings":{
      "analysis":{
         "analyzer":{
            "my_analyzer":{ # 1
               "type":"custom",
               "tokenizer":"standard",
               "filter":[
                  "lowercase"
               ]
            },
            "my_stop_analyzer":{ # 2
               "type":"custom",
               "tokenizer":"standard",
               "filter":[
                  "lowercase",
                  "english_stop"
               ]
            }
         },
         "filter":{
            "english_stop":{
               "type":"stop",
               "stopwords":"_english_"
            }
         }
      }
   },
   "mappings":{
      "my_type":{
         "properties":{
            "title": {
               "type":"text",
               "analyzer":"my_analyzer", # 3
               "search_analyzer":"my_stop_analyzer", # 4
               "search_quote_analyzer":"my_analyzer" # 5
            }
         }
      }
   }
}
'
PUT my_index/my_type/1
{
   "title":"The Quick Brown Fox"
}

PUT my_index/my_type/2
{
   "title":"A Quick Brown Fox"
}

GET my_index/my_type/_search
{
   "query":{
      "query_string":{
         "query":"\"the quick brown fox\"" # 1
      }
   }
}
Previous3.2.3.Mapping parameters（映射参数）Nextnormalizer(归一化)

Last updated