使用全文搜索和其他条件搜索1300万条记录

时间:2017-12-27 11:44:06

标签: sql-server-2012 full-text-search query-performance table-valued-parameters query-tuning

使用其他条件执行SQL Server全文搜索时的性能问题。 (SQL Server 2012)

我正在尝试根据搜索过滤器列表(表值参数)过​​滤数据,这将返回匹配过滤器的所有记录,过滤器的单个记录没有来自表的任何记录。

Names的表SNAME上已有全文搜索索引。

在存储过程中,表类型参数SearchFilter用于传递名称和地址信息列表。

两个表都有超过1400万条记录,当我们执行过程时,过滤器列表中传递了1000条唯一记录,大约需要7分钟才能返回结果(1400条记录)。

过滤条件是:包含(名称)和街道地址,城市,州,拉链完全匹配。

是否有任何替代方法可以避免while循环,因为SQL Server CONTAINS函数需要字符串值或变量?

CREATE TABLE [dbo].[Names]
(
    [ID] [int] IDENTITY(1,1) NOT NULL,
    [UIN] [varchar](9) NULL,
    [SNAME] [varchar](500) NULL,
    CONSTRAINT [PK_Names] 
        PRIMARY KEY CLUSTERED ([ID] ASC)
)

CREATE TABLE [dbo].[ADDRESSES]
(
    [UIN] [varchar](9) NULL,
    [STREET1] [varchar](100) NULL,
    [STREET2] [varchar](50) NULL,
    [CITY] [varchar](30) NULL,
    [STATE] [varchar](2) NULL,
    [ZIP] [varchar](10) NULL    
) ON [PRIMARY]

CREATE TYPE [dbo].[SearchFilter] AS TABLE
(
    [UIN] [varchar](40) NULL,
    [SNAME] [varchar](max) NULL,
    [StreetAddress] [varchar](max) NULL,
    [City] [varchar](max) NULL,
    [State] [varchar](50) NULL,
    [Zip] [varchar](20) NULL
)

-- Stored procedure logic
DECLARE @filterList AS [dbo].[SearchFilter]

DECLARE @NoOfRows INT, @counter INT = 0

SET @NoOfRows = (SELECT COUNT(1) FROM @filterList)

DECLARE @result TABLE (UIN varchar(40), 
                       NAME varchar(500), 
                       StreetAddress varchar(1000), 
                       Zipcode varchar(20),
                       State varchar(20),
                       City varchar(1000),
                       IsRecordFound varchar(50)
                      );

WHILE (@NoOfRows > @counter)
BEGIN
    DECLARE @SearchName VARCHAR(4000)

    SET @SearchName = (SELECT '"'+SNAME+'"' FROM @filterList ORDER BY SNAME OFFSET @counter ROWS FETCH NEXT 1 ROWS ONLY)  

    --Start: Process to Select Records
    ;WITH Filter_CTE AS
    (
        SELECT 
            SNAME, StreetAddress, City, State, ZipCode 
        FROM
            @filterList 
        ORDER BY 
            SNAME 
            OFFSET @counter ROWS FETCH NEXT 1 ROWS ONLY 
    )
    INSERT INTO @result (UIN, NAME, STREETADDRESS, CITY, STATE, ZIPCODE, PHONE, IsRecordFound)
        SELECT DISTINCT 
            en.UIN, ISNULL(en.SNAME, Filter_CTE.SNAME),
            Filter_CTE.StreetAddress, Filter_CTE.ZipCode,
            Filter_CTE.state, Filter_CTE.City,
            IIF(en.UIN IS NULL, 'Not Found', 'Found') AS IsRecordFound 
        FROM 
            dbo.Names en 
        INNER JOIN 
            dbo.ADDRESSES ea ON en.UIN = ea.UIN
        RIGHT JOIN 
            Filter_CTE ON ea.ZIP = Filter_CTE.Zip 
                       AND ea.STATE = Filter_CTE.State 
                       AND ea.CITY = Filter_CTE.City 
                       AND (ISNULL(ea.STREET1, '') + ' ' + ISNULL(ea.STREET2, '')) = Filter_CTE.StreetAddress
                       AND CONTAINS(en.SNAME,@SearchName)
            --END

    SET @counter += 1
END 

SELECT 
    UIN, NAME, STREETADDRESS, CITY, STATE, ZIPCODE, PHONE 
FROM 
    @result 

1 个答案:

答案 0 :(得分:0)

目前,无法在CONTAINSCONTAINSTABLE中使用列名作为搜索条件。因此,您无法在数据表与JOIN表之间直接SearchFilter并且应用了FTS谓词。

在其他问题/论坛中找到的当前解决方案是遍历过滤器列表并在变量中使用搜索条件提供CONTAINS,就像您一样。所以,你不会摆脱这个循环。

但是,查看您的查询时,我发现了许多可能影响性能的其他问题:

    DISTINCT中的
  1. INSERT INTO @result ... SELECT DISTINCT ...条款。它位于您JOIN到具有数百万条记录的表的级别上。虽然我知道最终结果可能只包含几千行,但最好将DISTINCT移到此行:

    SELECT DISTINCT
        UIN, NAME, STREETADDRESS, CITY, STATE, ZIPCODE, PHONE 
    FROM 
        @result 
    
  2. 这种情况AND (ISNULL(ea.STREET1, '') + ' ' + ISNULL(ea.STREET2, '')) = Filter_CTE.StreetAddress肯定不是SARGable。您使用连接和函数(ISNULL())来阻止SQL Server使用dbo.ADDRESSES ea表上的现有索引。请查看此问题:What makes a SQL statement sargable?,了解如何以允许使用索引的方式构建JOIN / WHERE条件。 在这种特殊情况下,最好将计算列添加到dbo.Addresses表中,然后在其上构建索引(或将其添加到现有索引):

    CREATE TABLE [dbo].[ADDRESSES]
    (
        ...
        STREET as (ISNULL(ea.STREET1, '') + ' ' + ISNULL(ea.STREET2, '')),
        ...
    )
    
  3. 所以修正上面的1.和2.然后在AND CONTAINS(en.SNAME,@SearchName)中注释RIGHT JOIN条件并注意执行时间。然后,取消注释CONTAINS条件并查看添加了多少延迟。通过这种方式,您可以确定它的FTS引擎是否应该归咎于延迟,或者您的主要查询本身需要改进。

    为了能够提供更多建议,我们需要查看您的程序的执行计划。您可以使用此页面共享您的查询执行计划:https://www.brentozar.com/pastetheplan/

    HTH