Лучший способ использования полнотекстового поиска PostgreSQL

Исходя из этого ответа, я хочу знать, как лучше всего использовать встроенный полнотекстовый поиск PostgreSQL, если я хочу отсортировать по рангу и ограничить только соответствующими запросами.

Давайте предположим, что очень простая таблица.

CREATE TABLE pictures (
  id SERIAL PRIMARY KEY,
  title varchar(300),
  ...
)

или что угодно. Теперь я хочу найти поле title. Сначала я создаю индекс:

CREATE INDEX pictures_title ON pictures 
  USING gin(to_tsvector('english', title));

Теперь я хочу найти 'small dog'. Это работает:

SELECT pictures.id, 
       ts_rank_cd(
         to_tsvector('english', pictures.title), 'small dog'
       ) AS score
FROM pictures
ORDER BY score DESC

Но то, что я действительно хочу, это:

SELECT pictures.id, 
       ts_rank_cd(
         to_tsvector('english', pictures.title), to_tsquery('small dog')
       ) AS score
FROM pictures 
WHERE to_tsvector('english', pictures.title) @@ to_tsquery('small dog')
ORDER BY score DESC

Или в качестве альтернативы это (что не работает - не может использовать score в WHERE):

SELECT pictures.id, 
       ts_rank_cd(
         to_tsvector('english', pictures.title), to_tsquery('small dog')
       ) AS score
FROM pictures WHERE score > 0
ORDER BY score DESC

Какой лучший способ сделать это? У меня много вопросов:

Если я использую версию с повторным to_tsvector(...), она будет вызывать это дважды, или она достаточно умна, чтобы как-то кэшировать результаты?
Есть ли способ сделать это без повторения to_ts... функции to_ts...?
Есть ли способ использовать score в WHERE?
Если есть, было бы лучше отфильтровать по score > 0 или использовать @@ вещь?

Ответы

Ответ 1

Использование оператора @@ будет использовать полнотекстовый индекс GIN, а тест для score > 0 - нет.

Я создал таблицу, как в вопросе, но добавил столбец с именем title_tsv:

CREATE TABLE test_pictures (
  id        BIGSERIAL,
  title     text,
  title_tsv tsvector
);

CREATE INDEX ix_pictures_title_tsv ON test_pictures 
    USING gin(title_tsv);

Я заполнил таблицу некоторыми тестовыми данными:

INSERT INTO test_pictures(title, title_tsv)
SELECT T.data, to_tsvector(T.data) 
FROM   some_table T;

Затем я запустил ранее принятый ответ с explain analyze:

EXPLAIN ANALYZE 
SELECT  score, id, title
FROM (
    SELECT ts_rank_cd(P.title_tsv, to_tsquery('address & shipping')) AS score
        ,P.id        
        ,P.title
    FROM test_pictures as P
) S
WHERE score > 0
ORDER BY score DESC;

И получил следующее. Обратите внимание, что время выполнения 5,015 мс

QUERY PLAN                                                                                                                                    |
----------------------------------------------------------------------------------------------------------------------------------------------|
Gather Merge  (cost=274895.48..323298.03 rows=414850 width=60) (actual time=5010.844..5011.330 rows=1477 loops=1)                             |
  Workers Planned: 2                                                                                                                          |
  Workers Launched: 2                                                                                                                         |
  ->  Sort  (cost=273895.46..274414.02 rows=207425 width=60) (actual time=4994.539..4994.555 rows=492 loops=3)                                |
        Sort Key: (ts_rank_cd(p.title_tsv, to_tsquery('address & shipping'::text))) DESC                                                      |
        Sort Method: quicksort  Memory: 131kB                                                                                                 |
        ->  Parallel Seq Scan on test_pictures p  (cost=0.00..247776.02 rows=207425 width=60) (actual time=17.672..4993.997 rows=492 loops=3) |
              Filter: (ts_rank_cd(title_tsv, to_tsquery('address & shipping'::text)) > '0'::double precision)                                 |
              Rows Removed by Filter: 497296                                                                                                  |
Planning time: 0.159 ms                                                                                                                       |
Execution time: 5015.664 ms                                                                                                                   |

Теперь сравните это с оператором @@:

EXPLAIN ANALYZE
SELECT ts_rank_cd(to_tsvector(P.title), to_tsquery('address & shipping')) AS score
    ,P.id
    ,P.title
FROM    test_pictures as P
WHERE P.title_tsv @@ to_tsquery('address & shipping')
ORDER BY score DESC;

И результаты приходят с временем выполнения около 29 мс:

QUERY PLAN                                                                                                                                       |
-------------------------------------------------------------------------------------------------------------------------------------------------|
Gather Merge  (cost=13884.42..14288.35 rows=3462 width=60) (actual time=26.472..26.942 rows=1477 loops=1)                                        |
  Workers Planned: 2                                                                                                                             |
  Workers Launched: 2                                                                                                                            |
  ->  Sort  (cost=12884.40..12888.73 rows=1731 width=60) (actual time=17.507..17.524 rows=492 loops=3)                                           |
        Sort Key: (ts_rank_cd(to_tsvector(title), to_tsquery('address & shipping'::text))) DESC                                                  |
        Sort Method: quicksort  Memory: 171kB                                                                                                    |
        ->  Parallel Bitmap Heap Scan on test_pictures p  (cost=72.45..12791.29 rows=1731 width=60) (actual time=1.781..17.268 rows=492 loops=3) |
              Recheck Cond: (title_tsv @@ to_tsquery('address & shipping'::text))                                                                |
              Heap Blocks: exact=625                                                                                                             |
              ->  Bitmap Index Scan on ix_pictures_title_tsv  (cost=0.00..71.41 rows=4155 width=0) (actual time=3.765..3.765 rows=1477 loops=1)  |
                    Index Cond: (title_tsv @@ to_tsquery('address & shipping'::text))                                                            |
Planning time: 0.214 ms                                                                                                                          |
Execution time: 28.995 ms                                                                                                                        |

Как вы можете видеть в плане выполнения, индекс ix_pictures_title_tsv использовался во втором запросе, но не в первом, что делает запрос с оператором @@ колоссальным в 172 раза быстрее!

Ответ 2

select *
from (
    SELECT
        pictures.id,
        ts_rank_cd(to_tsvector('english', pictures.title), 
        to_tsquery('small dog')) AS score
    FROM pictures
) s
WHERE score > 0
ORDER BY score DESC

Ответ 3

Если я использую версию с повторяющимся to_tsvector (...), она будет вызывать это дважды, или она достаточно умна, чтобы каким-то образом кэшировать результаты?

Лучший способ заметить эти вещи - это просто объяснить, хотя их трудно прочитать.

Короче говоря, да, PostgreSQL достаточно умен, чтобы повторно использовать вычисленные результаты.

Есть ли способ сделать это, не повторяя вызовы функции to_ts...

То, что я обычно делаю, это добавить столбец tsv, который является текстовым поисковым вектором. Если вы сделаете это автоматическое обновление с помощью триггеров, он сразу же даст вам вектор, который легко доступен, но также позволяет выборочно обновлять индекс поиска, делая триггер выборочным.

Есть ли способ использовать оценку в предложении WHERE?

Да, но не с этим именем. В качестве альтернативы вы можете создать дополнительный запрос, но я бы просто повторил его.

Если есть, было бы лучше фильтровать по счету > 0 или использовать @@thing?

Простейшая версия, о которой я могу думать, такова:

SELECT *
FROM pictures
WHERE 'small dog' @@ text_search_vector

text_search_vector, очевидно, можно заменить чем-то вроде to_tsvector('english', pictures.title)