Question

我对Lucene的评分功能有疑问，我无法弄清楚。到目前为止，我已经能够编写此代码来重现它。

package lucenebug;

import java.util.Arrays;
import java.util.List;

import org.apache.lucene.analysis.SimpleAnalyzer;
import org.apache.lucene.document.Document;
import org.apache.lucene.document.Field;
import org.apache.lucene.index.IndexWriter;
import org.apache.lucene.queryParser.QueryParser;
import org.apache.lucene.search.IndexSearcher;
import org.apache.lucene.search.Query;
import org.apache.lucene.search.ScoreDoc;
import org.apache.lucene.search.TopDocs;

public class Test {
    private static final String TMP_LUCENEBUG_INDEX = "/tmp/lucenebug_index";

    public static void main(String[] args) throws Throwable {
        SimpleAnalyzer analyzer = new SimpleAnalyzer();
        IndexWriter w = new IndexWriter(TMP_LUCENEBUG_INDEX, analyzer, true);
        List<String> names = Arrays
                .asList(new String[] { "the rolling stones",
                        "rolling stones (karaoke)",
                        "the rolling stones tribute",
                        "rolling stones tribute band",
                        "karaoke - the rolling stones" });
        try {
            for (String name : names) {
                System.out.println("#name: " + name);
                Document doc = new Document();
                doc.add(new Field("name", name, Field.Store.YES,
                        Field.Index.TOKENIZED));
                w.addDocument(doc);
            }
            System.out.println("finished adding docs, total size: "
                    + w.docCount());

        } finally {
            w.close();
        }

        IndexSearcher s = new IndexSearcher(TMP_LUCENEBUG_INDEX);
        QueryParser p = new QueryParser("name", analyzer);
        Query q = p.parse("name:(rolling stones)");
        System.out.println("--------\nquery: " + q);

        TopDocs topdocs = s.search(q, null, 10);
        for (ScoreDoc sd : topdocs.scoreDocs) {
            System.out.println("" + sd.score + "\t"
                    + s.doc(sd.doc).getField("name").stringValue());
        }
    }
}

我从运行中获得的输出是：

finished adding docs, total size: 5
--------
query: name:rolling name:stones
0.578186    the rolling stones
0.578186    rolling stones (karaoke)
0.578186    the rolling stones tribute
0.578186    rolling stones tribute band
0.578186    karaoke - the rolling stones

我无法理解为什么the rolling stones与the rolling stones tribute具有相同的相关性。根据lucene的documentation，字段的标记越多，标准化因子应该越小，因此the rolling stones tribute的得分应该低于the rolling stones。

有什么想法吗？

Answer 1

长度归一化因子计算为1 / sqrt(numTerms)（您可以在DefaultSimilarity

中看到这一点

此结果不直接存储在索引中。此值乘以指定字段的提升值。然后最终结果以8位编码，如Similarity.encodeNorm()中所述。这是一种有损编码，这意味着精细细节会丢失。

如果您想查看长度规范化，请尝试使用以下句子创建文档。

the rolling stones tribute a b c d e f g h i j k

这将在您可以看到的长度标准化值中产生足够的差异。

现在，如果根据您使用的示例，您的字段只有很少的令牌，您可以根据自己的公式设置文档/字段的提升值，这对于短字段来说基本上是更高的提升。或者，您可以创建自定义相似度并覆盖legthNorm（）方法。

Answer 2

我可以在Lucene 2.3.1上重现它，但不知道为什么会这样。

Lucene得分问题

2 个答案: