0

solr で「エレガント」をクエリすると、「エレガンス」の結果も得られます。

これらのフィルターをインデックス分析に使用しました

WhitespaceTokenizerFactory
StopFilterFactory
WordDelimiterFilterFactory
LowerCaseFilterFactory
SynonymFilterFactory
EnglishPorterFilterFactory
RemoveDuplicatesTokenFilterFactory
ReversedWildcardFilterFactory

およびクエリ分析の場合：

WhitespaceTokenizerFactory
SynonymFilterFactory
StopFilterFactory
WordDelimiterFilterFactory
LowerCaseFilterFactory
EnglishPorterFilterFactory
RemoveDuplicatesTokenFilterFactory

検索結果に影響するフィルターを知りたいです。

4

1 に答える 1

0

日本語PorterFilterFactory

それは短い答えです;）

もう少し情報：

English Porter は、英語のポーター ステマー ステミング アルゴリズムを意味します。そして、エレガントとエレガンスの両方は、ステマー (ヒューリスティックな単語のルート ビルダー) によると同じステムを持っています。

これはオンラインで確認できます。基本的に、「eleg ant」と「eleg ance 」が同じ語幹 > elegに語幹付けされていることがわかります。

Solr ソースから:

       public void inform(ResourceLoader loader) {
            String wordFiles = args.get(PROTECTED_TOKENS);
            if (wordFiles != null) {
                try {

ここで正確にprotwordsファイルが登場します：

                    File protectedWordFiles = new File(wordFiles);
                    if (protectedWordFiles.exists()) {
                        List<String> wlist = loader.getLines(wordFiles);
                        //This cast is safe in Lucene
                        protectedWords = new CharArraySet(wlist, false);//No need to go through StopFilter as before, since it just uses a List internally
                    } else {
                        List<String> files = StrUtils
                                .splitFileNames(wordFiles);
                        for (String file : files) {
                            List<String> wlist = loader.getLines(file
                                    .trim());
                            if (protectedWords == null)
                                protectedWords = new CharArraySet(wlist,
                                        false);
                            else
                                protectedWords.addAll(wlist);
                        }
                    }
                } catch (IOException e) {
                    throw new RuntimeException(e);
                }
            }
        }

それはステミングに影響を与える部分です。Snowball ライブラリの呼び出しが表示されます。

        public EnglishPorterFilter create(TokenStream input) {
            return new EnglishPorterFilter(input, protectedWords);
        }

    }

    /**
     * English Porter2 filter that doesn't use reflection to
     * adapt lucene to the snowball stemmer code.
     */
    @Deprecated
    class EnglishPorterFilter extends SnowballPorterFilter {
        public EnglishPorterFilter(TokenStream source,
                CharArraySet protWords) {
            super (source, new org.tartarus.snowball.ext.EnglishStemmer(),
                    protWords);
        }
    }
于 2011-06-29T10:04:09.387 に答える