Google 喜欢使用 Solr 进行自动提示/预先输入建议关键字/短语

编程问答 2022-04-28

问题描述

要求

我需要在搜索框中提供类似 google 的建议。 Solr 已经是给定的。 结果应如下所示：

searchterm 亚历克斯
结果 Alexander Behling,Alexander Some ...

搜索词出租车
结果 电缆、高压电缆、电缆剪

enter image description here

目的是将短语作为建议，而不是整个字段或摘录。查询应不区分大小写，Alex 应具有与 alex 相同的结果，但搜索结果（建议）必须具有原始大小写。
建议必须可按类别过滤，我们在一个索引中有多个域的结果，并且结果应按包含该域的特定字段进行过滤。 contextField 仅适用于“AnalyzingInfixLookupFactory 和 BlendedInfixLookupFactory 当前支持此功能，当由 DocumentDictionaryFactory 支持时。”

我尝试了三种方法

1.方法：FreeTextLookupFactory

​​> 
config (no special schema changes): 
     <searchComponent name="suggest" class="solr.SuggestComponent">
        <lst name="suggester">
          <str name="name">default</str>
          <str name="lookupImpl">FreeTextLookupFactory</str> 
          <str name="dictionaryImpl">DocumentDictionaryFactory</str>
          <str name="field">content</str>
          <str name="ngrams">3</str>
          <str name="separator"> </str>
          <str name="suggestFreeTextAnalyzerFieldType">text_general</str>
        </lst>
    </searchComponent>

    <requestHandler name="/suggest" class="solr.SearchHandler" startup="lazy" >
      <lst name="defaults">
        <str name="suggest">true</str>
        <str name="suggest.count">10</str>
        <str name="suggest.dictionary">default</str>        
        <str name="echoParams">explicit</str>
      </lst>
      <arr name="components">
         <str>suggest</str>
      </arr>
    </requestHandler>

这很合理，但只能提供单个单词。
searchterm 亚历克斯
结果 亚历山大、亚历山德拉...
优点是索引速度非常快。我试图将它与 ShingleFilter 结合起来，但这不起作用，可能是因为 ShingleFilter 已经是 FreeTextLookupFactory 的一部分。因为不支持 FreeTextLookupFactory 类别。

2.方法：带有自定义字段的 BlendedInfixLookupFactory

​​> 
schema:
<field name="suggest_field" type="text_suggest" indexed="true" stored="true" multiValued="true"/>
<field name="site" type="string" stored="true" indexed="true"/>
<copyField source="content" dest="suggest_field"/>

    <fieldType name="text_suggest" class="solr.TextField" positionIncrementGap="100">
            <analyzer type="index">
                <tokenizer class="solr.StandardTokenizerFactory"/>
                <!--filter class="solr.LowerCaseFilterFactory"/-->
                <filter class="solr.TrimFilterFactory"/>
                <filter class="solr.ShingleFilterFactory" 
                    minShingleSize="2"
                    maxShingleSize="4"
                    outputUnigrams="true"
                    outputUnigramsIfNoShingles="true"/>
            </analyzer>
            <analyzer type="query">
                <tokenizer class="solr.KeywordTokenizerFactory"/>
                <filter class="solr.LowerCaseFilterFactory"/>
                <filter class="solr.RemoveDuplicatesTokenFilterFactory"/>
           </analyzer>
    </fieldType>

config:
<searchComponent name="suggest" class="solr.SuggestComponent">
   <lst name="suggester">
      <str name="name">default</str>
      <str name="lookupImpl">BlendedInfixLookupFactory</str>
      <str name="blenderType">position_linear</str>
      <str name="dictionaryimpl">DocumentDictionaryFactory</str>
      <str name="field">suggest_field</str>
      <str name="weightField">weight</str>
      <str name="suggestAnalyzerFieldType">text_suggest</str>
      <str name="queryAnalyzerFieldType">phrase_suggest</str>
      <str name="indexPath">suggest</str>
      <str name="buildOnStartup">false</str>
      <str name="buildOnCommit">false</str>
      <bool name="exactMatchFirst">true</bool>
      <str name="contextField">site</str>
   </lst> 
</searchComponent>

    <requestHandler name="/suggest" class="solr.SearchHandler" startup="lazy" >
      <lst name="defaults">
        <str name="suggest">true</str>
        <str name="suggest.count">10</str>
        <str name="suggest.dictionary">default</str>        
        <str name="echoParams">explicit</str>
      </lst>
      <arr name="components">
         <str>suggest</str>
      </arr>
    </requestHandler>FreeTextLookupFactory

第二种方法导致了我奇怪的行为：

searchterm 亚历克斯或亚历克斯
结果没什么...
搜索词出租车
结果电缆、电缆、电压电缆、电缆附件、电源线...

使用相同的字段，某些查询没有搜索结果。对于 12 小时。由于应支持 BlendedInfixLookupFactory 和 DocumentDictionaryFactory 类别。 但是在查询中使用类别时。 http://localhost:8983/solr/magnolia/suggest?wt=json&suggest=true&suggest.q=nym&suggest.cfq=com 结果为空。字段“site”在索引中多次包含值“com”。

3.使用 HighFrequencyDictionaryFactory 和自定义字段处理 BlendedInfixLookupFactory

​​> 
schema:

 <field name="suggest_field" type="text_shingle" indexed="true" stored="true" multiValued="true"/>
...
<copyField source="_text_" dest="suggest_field"/>
...
    <fieldType name="text_shingle" class="solr.TextField" positionIncrementGap="100">
        <analyzer type="index">
           <charFilter class="solr.HTMLStripCharFilterFactory"/>
           <filter class="solr.TrimFilterFactory"/>
           <tokenizer class="solr.StandardTokenizerFactory"/>
           <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords_suggestions.txt" format="snowball" />
           <!--filter class="solr.EdgeNGramFilterFactory" minGramSize="4" maxGramSize="15"/-->
           <filter class="solr.ShingleFilterFactory" minShingleSize="2" maxShingleSize="4" outputUnigrams="false" outputUnigramsIfNoShingles="true" fillerToken=""/>
        </analyzer>
    </fieldType>
    <!-- marc johnen : used for autocomplete-->
    <fieldType name="text_suggest" class="solr.TextField" positionIncrementGap="100">
          <analyzer>
             <tokenizer class="solr.StandardTokenizerFactory"/>
             <filter class="solr.LowerCaseFilterFactory"/>
             <filter class="solr.TrimFilterFactory"/>
          </analyzer>
    </fieldType>

config:
    <searchComponent name="suggest" class="solr.SuggestComponent">
      <lst name="suggester">
        <str name="name">default</str>
        <str name="lookupImpl">BlendedInfixLookupFactory</str>
        <str name="dictionaryImpl">HighFrequencyDictionaryFactory</str>
        <str name="field">suggest_field</str>
        <str name="suggestAnalyzerFieldType">text_suggest</str>
        <str name="minPrefixChars">2</str>
        <str name="exactMatchFirst">true</str>
        <str name="buildOnStartup">false</str> 
        <str name="buildOnCommit">true</str>
        <str name="highlight">false</str>
      </lst>
    </searchComponent>

    <requestHandler name="/suggest" class="solr.SearchHandler" startup="lazy" >
      <lst name="defaults">
        <str name="suggest">true</str>
        <str name="suggest.count">10</str>
        <str name="suggest.dictionary">default</str>        
        <str name="echoParams">explicit</str>
      </lst>
      <arr name="components">
         <str>suggest</str>
      </arr>
    </requestHandler>

这种方法的结果相当不错，除了一些重复的词组外，基本按照指定的那样，因为有些关键字因为开头或结尾有空格而重复，例如“power cable”和“power cable”。除此之外还不错。

searchterm 亚历克斯
结果 Alexander Behling,Alexander Some ...

搜索词出租车
结果电缆、高压电缆、电缆剪

索引

查询

我使用的查询如下所示：

http://localhost:8983/solr/magnolia/suggest?wt=json&suggest=true&suggest.q=cab

在类别的配置中添加 <str name="contextField">site</str>，在适用时将 &suggest.cfq=com 添加到查询中。

解决方法

我最终使用了 FreeTextLookupFactory 并为每种语言创建了一个单独的字段和建议器。

autocompletesearchsolrsolrsolrtypeahead