Индексирование веб-сайта/url в Elastic Search

У меня есть поле website документа, проиндексированного в упругом поиске. Пример значения: http://example.com. Проблема в том, что при поиске example документ не включается. Как правильно отобразить сайт/URL-адрес?

Я создал индекс ниже:

{
  "settings":{
    "index":{
        "analysis":{
        "analyzer":{
            "analyzer_html":{
                  "type":"custom",
                  "tokenizer": "standard",
                "filter":"standard",
                "char_filter": "html_strip"
            }
        }
        }
    }
  },
  "mapping":{
    "blogshops": {
        "properties": {
            "category": {
                "properties": {
                    "name": {
                        "type": "string"
                    }
                }
            },
            "reviews": {
                "properties": {
                    "user": {
                        "properties": {
                            "_id": {
                                "type": "string"
                            }
                        }
                    }
                }
            }
        }
    }
  }
}

Ответы

Ответ 1

Я предполагаю, что вы используете анализатор standard, который разбивает http://example.dom на два токена - http и example.com. Вы можете посмотреть http://localhost:9200/_analyze?text=http://example.com&analyzer=standard.

Если вы хотите разделить url, вам нужно использовать другой анализатор или указать собственный пользовательский анализатор.

Вы можете посмотреть, как url проиндексирован простой анализатор - http://localhost:9200/_analyze?text=http://example.com&analyzer=simple. Как вы можете видеть, теперь url индексируется как три токена ['http', 'example', 'com']. Если вы не хотите индексировать токены, такие как ['http', 'www'] и т.д., Вы можете указать свой анализатор с строчным токенизатором (это тот, который используется в простом анализаторе) и остановить фильтр. Например, что-то вроде этого:

# Delete index
#
curl -s -XDELETE 'http://localhost:9200/url-test/' ; echo

# Create index with mapping and custom index
#
curl -s -XPUT 'http://localhost:9200/url-test/' -d '{
  "mappings": {
    "document": {
      "properties": {
        "content": {
          "type": "string",
          "analyzer" : "lowercase_with_stopwords"
        }
      }
    }
  },
  "settings" : {
    "index" : {
      "number_of_shards" : 1,
      "number_of_replicas" : 0
    },
    "analysis": {
      "filter" : {
        "stopwords_filter" : {
          "type" : "stop",
          "stopwords" : ["http", "https", "ftp", "www"]
        }
      },
      "analyzer": {
        "lowercase_with_stopwords": {
          "type": "custom",
          "tokenizer": "lowercase",
          "filter": [ "stopwords_filter" ]
        }
      }
    }
  }
}' ; echo

curl -s -XGET 'http://localhost:9200/url-test/_analyze?text=http://example.com&analyzer=lowercase_with_stopwords&pretty'

# Index document
#
curl -s -XPUT 'http://localhost:9200/url-test/document/1?pretty=true' -d '{
  "content" : "Small content with URL http://example.com."
}'

# Refresh index
#
curl -s -XPOST 'http://localhost:9200/url-test/_refresh'

# Try to search document
#
curl -s -XGET 'http://localhost:9200/url-test/_search?pretty' -d '{
  "query" : {
    "query_string" : {
        "query" : "content:example"
    }
  }
}'

ПРИМЕЧАНИЕ. Если вам не нравится использовать стоп-слова, вот интересная статья остановить остановку стоп-слов: посмотрите на общий запрос условий