Индексируйте pdf файлы в сервисе AWS Elasticsearch, используя Elasticsearch File System Crawler - PullRequest
Новая
       12

Индексируйте pdf файлы в сервисе AWS Elasticsearch, используя Elasticsearch File System Crawler

0 голосов
/ 21 мая 2018

Я могу индексировать pdf файлы в локальный Elasticsearch, используя Elasticsearch File System Crawler .Параметр fscrawler по умолчанию имеет параметры порта, хоста и схемы, как показано ниже. 

{
"name" : "job_name2",
"fs" : {
"url" : "/tmp/es",
"update_rate" : "15m",
"excludes" : [ "~*" ],
"json_support" : false,
"filename_as_id" : false,
"add_filesize" : true,
"remove_deleted" : true,
"add_as_inner_object" : false,
"store_source" : false,
"index_content" : true,
"attributes_support" : false,
"raw_metadata" : true,
"xml_support" : false,
"index_folders" : true,
"lang_detect" : false,
"continue_on_error" : false,
"pdf_ocr" : true,
"ocr" : {
  "language" : "eng"
}
},
 "elasticsearch" : {
"nodes" : [ {
  "host" : "127.0.0.1",
  "port" : 9200,
  "scheme" : "HTTP"
} ],
"bulk_size" : 100,
"flush_interval" : "5s"
},
"rest" : {
"scheme" : "HTTP",
"host" : "127.0.0.1",
"port" : 8080,
"endpoint" : "fscrawler"
}
}

Однако у меня возникают трудности с его использованием для индексации в сервис AWSasticsearch, поскольку для индексирования в AWSasticsearch необходимо предоставитьAWS_ACCESS_KEY, AWS_SECRET_KEY, регион и сервис в соответствии с документацией здесь . Любая помощь по индексированию PDF-файлов в сервисе AWSasticsearch высоко ценится.

...