带有复杂搜索过滤的复杂查询

时间:2019-07-02 13:34:45

标签: elasticsearch elasticsearch-percolate

我有一个PostgreSQL数据库,其中包含从网上解析的新闻报道。解析器每小时运行一次,并收集新的新闻项并将其存储在DB中。该应用程序的用户可以将某些关键字添加到他们的个人资料中,这样,如果发现包含该关键字的新新闻项,则将通知他们。当前,我正在为此使用SQL查询,因此,每当我收到新的新闻文章时,我都会尝试将其与用户添加的所有关键字进行匹配,然后发出通知,但这会花费很多时间。所以我在考虑整合Elasticsearch。我遇到过percolation query,但是找不到关于它的好的文档,所以不确定是否可以使用它创建复杂的查询。搜索需要考虑以下因素:

  1. 用户可以使用AND,OR,NOT添加关键字,我们需要分别“搜索全部”,“任何一个”,“不包含”。例如,用户可以给诸如“ Bitcoin”和“ Cryptocurrency”之类的关键字而不是“ Mining”,那么在这种情况下,此搜索查询应仅匹配包含单词“ Bitcoin”和“ Cryptocurrency”的新闻文章,而不应包含单词“ Mining”。 关键字可以在文章标题或文章正文中的任意位置
  2. 词干。因此,如果用户关键字包含“ raining”,而文章中包含“ rain”,则渗滤搜索仍应返回该关键字的ID
  3. 用户还可以提供作者作为关键字,在这种情况下,我们需要返回由该作者撰写的文章

1 个答案:

答案 0 :(得分:0)

感谢您的精确度。

要在您的情况下使用渗滤查询,您必须:

  1. 创建一个索引,以定义文章的映射,有关用户的信息以及与用户首选项相对应的过滤器查询。
PUT /percolated_queries_index
{
    "mappings": {
        "properties": {
            "article": {
                // Mapping for your article
            },
            "query": {
                "type": "percolator"
            },
            "user": {
                // Mapping for the information related to the user
            }
        }
    }
}

article字段是必填字段,因为您要渗透的文章文档将使用此映射。这可能与您在article索引中使用的映射相同。如文档中所述,您应该将此映射视为对要匹配的文档的预处理。例如,您将必须在此处指定一个词干分析器。

  1. percolator字段中为每个用户在其查询条件中为其搜索索引编制索引。
PUT /percolated_queries_index/_doc
{
    "query" : {
        // The elasticsearch query corresponding to the user preferences
    },
    "user": {
        // Information for the user, e.g., id, email
    }
}

该查询对应于重写为Elasticsearch查询的用户首选项。例如,对文章作者的匹配查询和对AND,OR,NOT关键字的布尔查询。这可能是困难的部分,因为您将不得不编写一些将用户查询转换为Elasticsearch查询的内容。如果可以使用query string语法,应该会更容易。

您不应在此处设置article字段。

  1. 为新文章建立索引后,请在percolate固定参数中使用此文章运行document搜索查询。如果文章已被索引,您也可以直接使用其ID(语法在文档中给出)。
GET /percolated_queries_index/_search
{
    "query" : {
        "percolate" : {
            "field" : "query",
            "document" : {
                // The content of the article
            }
        }
    }
    "_source": "user"
}

对此查询的响应将返回包含搜索查询的文档,该搜索查询与包含与文章相对应的用户信息的文章文档匹配。由于您通常对搜索查询本身不感兴趣,因此可以进行过滤以仅获取user字段。

对此查询的响应将为您提供应将新文章发送给的所有用户。