Phrase Suggester

为了理解suggestions的形式,请先阅读suggestions第一页。

术语suggester提供了一种非常方便的 API ,以在某个字符串距离内在每个token的基础上访问字替换。 API 允许单独访问流中的每个token,而suggest 选择由API使用者选择。 然而,通常需要预先选择的suggestions以呈现给最终用户。 短语suggestertermsuggester之上添加额外的逻辑以选择整个经校正的短语,而不是基于ngram-language模型加权的单个token。 在实践中,这个suggester将能够基于共现和频率来做出关于选择哪些token的更好的决定。

API 示例

一般来说,phrasesuggester 需要前面的特殊映射。 此页面上的phrasesuggester示例需要以下映射才能正常工作。 仅在最后一个示例中使用反向(reverse)分析器。

PUT test
{
  "settings": {
    "index": {
      "number_of_shards": 1,
      "analysis": {
        "analyzer": {
          "trigram": {
            "type": "custom",
            "tokenizer": "standard",
            "filter": ["standard", "shingle"]
          },
          "reverse": {
            "type": "custom",
            "tokenizer": "standard",
            "filter": ["standard", "reverse"]
          }
        },
        "filter": {
          "shingle": {
            "type": "shingle",
            "min_shingle_size": 2,
            "max_shingle_size": 3
          }
        }
      }
    }
  },
  "mappings": {
    "test": {
      "properties": {
        "title": {
          "type": "text",
          "fields": {
            "trigram": {
              "type": "text",
              "analyzer": "trigram"
            },
            "reverse": {
              "type": "text",
              "analyzer": "reverse"
            }
          }
        }
      }
    }
  }
}
POST test/test?refresh=true
{"title": "noble warriors"}
POST test/test?refresh=true
{"title": "nobel prize"}

一旦你设置了分析器和映射,你可以在同一个地方使用phrasesuggester,你可以使用term suggester

POST _suggest
{
  "text": "noble prize",
  "simple_phrase": {
    "phrase": {
      "field": "title.trigram",
      "size": 1,
      "gram_size": 3,
      "direct_generator": [ {
        "field": "title.trigram",
        "suggest_mode": "always"
      } ],
      "highlight": {
        "pre_tag": "<em>",
        "post_tag": "</em>"
      }
    }
  }
}

该响应包含由最可能的拼写纠正评分的 suggestions 。 在这种情况下,我们收到了预期的校正“诺贝尔奖”。

{
  "_shards": ...
  "simple_phrase" : [
    {
      "text" : "noble prize",
      "offset" : 0,
      "length" : 11,
      "options" : [ {
        "text" : "nobel prize",
        "highlighted": "<em>nobel</em> prize",
        "score" : 0.5962314
      }]
    }
  ]
}

基本短语 suggest API 参数

field

用于对语言模型进行n元语法查找的字段的名称,suggester将使用此字段获取统计信息以对校正进行评分。 此字段是必填字段。

gram_size

在字段中设置 n-gramshingles)的最大大小。 如果字段不包含n-gramshingles),则应省略或设置为1.请注意,Elasticsearch尝试根据指定的字段检测克大小。 如果字段使用shingle过滤器,则如果未明确设置,则将gram_size设置为max_shingle_size

real_word_error_likelihood

即使词语存在于字典中,词语是拼写错误的可能性。 默认是0.95对应5%的真实单词拼写错误。

confidence

置信水平定义了应用于输入短语分数的因子,其被用作其他suggest候选的阈值。 只有得分高于阈值的候选人才会包括在结果中。 例如,1.0的置信水平将仅返回得分高于输入短语的suggestions。 如果设置为0.0,则返回前N个候选。 默认值为1.0。

max_errors

为了形成校正,最多被认为是拼写错误的术语的最大百分比。 此方法接受范围[0..1]中的浮点值作为实际查询项的分数或作为查询项的绝对数量的数字> = 1。 默认值设置为1.0,对应于只返回最多1个拼写错误项的更正。 请注意,将其设置过高可能会对性能产生负面影响。 推荐使用低值,例如1或2,否则suggestions调用的时间花费可能超过查询执行的时间花费。

separator

用于分隔bigram字段中的术语的分隔符。 如果未设置,则使用空格字符作为分隔符

size

为每个单独查询项生成的候选数量低数字(如3或5)通常会产生良好的结果。 提高这个可以带来更高的编辑距离的术语。 默认值为5。

analyzer

将分析器设置为分析以使用suggest文本。 默认为通过字段传递的suggest字段的搜索分析器。

shard_size

设置要从每个单独的分片检索的suggestions字词的最大数量。 在减少阶段期间,基于size选项只返回前N个suggestions。 默认为5。

text

设置文本/查询以提供suggestions

highlight

设置suggestion高亮显示。 如果未提供,则不返回高亮显示的字段。 如果提供,必须包含完全pre_tag和post_tag包裹改变的标记。 如果一行中的多个标记被改变,则改变的标记的整个短语被包装,而不是每个标记。

collate

检查针对指定查询的每个suggestion,以修剪索引中没有匹配的文档的suggestions。 对于suggestion的整理查询仅在从中生成suggestion的本地碎片上运行。 必须指定查询,并将其作为模板查询运行。 当前suggestion自动提供为}变量,应在您的查询中使用。 您仍然可以指定自己的模板params-suggestions值将添加到您指定的变量。 此外,您可以指定一个prune以控制是否返回所有短语suggestions,设置为 true时,suggestions将有一个附加选项collate_match,如果找到匹配的短语文档,则为true,否则为false。prune的默认值为false。

POST _suggest
{
  "text" : "noble prize",
  "simple_phrase" : {
    "phrase" : {
      "field" :  "title.trigram",
      "size" :   1,
      "direct_generator" : [ {
        "field" :            "title.trigram",
        "suggest_mode" :     "always",
        "min_word_length" :  1
      } ],
      "collate": {
        "query": { ①
          "inline" : {
            "match": {
              "{{field_name}}" : "{{suggestion}}" ②
            }
          }
        },
        "params": {"field_name" : "title"}, ③
        "prune": true ④
      }
    }
  }
}

① 所有这三个元素都是可选的。

② 变量将会被每个suggestion文本所代替。

③ 额外的 field_name变量已经在params中被指定,并且被match查询所使用。

④ 所有的suggestions将和一个额外的collate_match选项一起返回,表示是否生成的短语匹配任何文档。

field_name

平滑(smothing)模型

短语suggester支持多个平滑模型来平衡重量不频繁gramsgrams(瓦)不存在于索引中)和频繁grams(在索引中至少出现一次)。

stupid_backoff

简单的回退模型,如果高阶计数为0并且通过常数因子折扣低阶n-gram模型,则回退到低阶n-gram模型。 默认折扣为0.4。 Stupid Backoff是默认模型。

laplace

使用添加平滑的平滑模型,其中将常数(通常为1.0或更小)添加到所有计数以平衡权重。默认α为0.5。

linear_interpolation

平滑模型,其基于用户提供的权重(lambdas)获取单字组,双字组和三字母组的加权平均值。 线性插值没有任何默认值。 必须提供所有参数(trigram_lambda,bigram_lambda,unigram_lambda)。

候选生成器( Generators)

短语suggester使用候选生成器来产生给定文本中每个术语的可能术语的列表。 单个候选生成器类似于对文本中的每个单独术语调用的术语suggester 。 生成器的输出随后与来自其他项的候选一起被评分以用于suggestions候选。

目前只支持一种类型的候选生成器,direct_generator。 PhrasesuggestionsAPI接受在关键direct_generator下的生成器列表,列表中的每个生成器在原始文本中被称为每个term。

直接生成器(Generators)

直接生成器支持以下参数:

field

从中获取候选suggestions的字段。 这是必需的选项,需要设置全局或每个 suggestion 。

size

每个suggestion文本标记返回的最大更正值。

suggest_mode

suggest模式控制在每个分片上生成的suggestions中包括哪些suggestions。 除了always之外的所有值都可以被认为是优化以生成更少的 suggestions 以在每个碎片上测试,并且在组合在每个碎片上生成的suggestions时不被重新检查。 因此,对于不包含它们的分片,即使其他分片包含它们,也会生成对分片的suggestions。 这些应该使用信心过滤掉。 可以指定三个可能的值:missing: 仅生成不在f中的术语的suggestions。 这是默认值。popular: 只suggest在 shard 的更多文档中出现的术语,而不是原始术语always:根据suggestions文字中的字词suggest任何相符的suggestions

max_edits

最大编辑距离候选suggestions可以具有,以便被认为是suggestion。 只能是介于1和2之间的值。任何其他值都会导致抛出错误的请求错误。 默认为2。

prefix_length

必须匹配的最小前缀字符的数量是候选suggestions。 默认值为1.增加此数字可提高拼写检查性能。 通常拼写错误不会出现在术语的开头。 (旧名称“prefix_len”已弃用)

min_word_length

suggest文本术语必须包含的最小长度。 默认值为4.(旧名称“min_word_len”已弃用)

max_inspections

用于乘以shards_size以便在碎片级别上检查更多候选拼写校正的因子。 可以以性能为代价提高精度。 默认为5。

min_doc_freq

suggestion应该出现的文档数量的最小阈值。这可以指定为绝对数字或文档数量的相对百分比。 这可以通过仅提示高频项来提高质量。 默认值为0f,未启用。 如果指定的值大于1,则该数字不能为小数。 分片级文档频率用于此选项。

max_term_freq

suggestion文本标记可以存在的文档数量中的最大阈值,以便包括。 可以是表示文档频率的相对百分比数字(例如0.4)或绝对数字。 如果指定的值大于1,则不能指定小数。 默认为0.01f。 这可以用于排除高频术语的拼写检查。 高频项通常拼写正确,这也提高了拼写检查的性能。 分片级文档频率用于此选项。

pre_filter

应用于传递到该候选生成器的每个令牌的过滤器(分析器)。 在生成候选项之前,此过滤器应用于原始令牌。

post_filter

在它们被传递给实际短语记分器之前应用于每个生成的令牌的过滤器(分析器)。

他下面的例子显示了一个短语suggest 用两个生成器调用,第一个使用包含普通索引术语的字段,第二个使用使用索引与反向过滤器的术语的字段(令牌是相反顺序的索引)。 这用于克服直接发电机的限制,需要恒定的前缀来提供高性能suggestions。 pre_filter 和 post_filter 选项接受普通分析器名称。

POST _suggest
{
  "text" : "obel prize",
  "simple_phrase" : {
    "phrase" : {
      "field" : "title.trigram",
      "size" : 1,
      "direct_generator" : [ {
        "field" : "title.trigram",
        "suggest_mode" : "always"
      }, {
        "field" : "title.reverse",
        "suggest_mode" : "always",
        "pre_filter" : "reverse",
        "post_filter" : "reverse"
      } ]
    }
  }
}

pre_filterpost_filter也可以用于在生成候选项之后注入同义词。 例如,对于查询caption usq,我们可以为项usq生成候选 usa,这是 america 的同义词,其允许如果该短语得分足够高则向用户呈现captain america。

Last updated