Как индексировать содержимое PDF с помощью SolrJ? - PullRequest
Новая
       28

Как индексировать содержимое PDF с помощью SolrJ?

2 голосов
/ 17 апреля 2011

Я пытаюсь проиндексировать несколько PDF-документов, используя SolrJ, как описано в http://wiki.apache.org/solr/ContentStreamUpdateRequestExample,, ниже приведен код: 

import static org.apache.solr.handler.extraction.ExtractingParams.LITERALS_PREFIX;
import static org.apache.solr.handler.extraction.ExtractingParams.MAP_PREFIX;
import static org.apache.solr.handler.extraction.ExtractingParams.UNKNOWN_FIELD_PREFIX;

import org.apache.solr.client.solrj.SolrServer;
import org.apache.solr.client.solrj.SolrServerException;
import org.apache.solr.client.solrj.impl.CommonsHttpSolrServer;
import org.apache.solr.client.solrj.request.AbstractUpdateRequest;
import org.apache.solr.client.solrj.request.ContentStreamUpdateRequest;
import org.apache.solr.common.util.NamedList;
...
public static void indexFilesSolrCell(String fileName) throws IOException, SolrServerException {

  String urlString = "http://localhost:8080/solr"; 
  SolrServer server = new CommonsHttpSolrServer(urlString);

  ContentStreamUpdateRequest up = new ContentStreamUpdateRequest("/update/extract");
  up.addFile(new File(fileName));
  String id = fileName.substring(fileName.lastIndexOf('/')+1);
  System.out.println(id);

  up.setParam(LITERALS_PREFIX + "id", id);
  up.setParam(LITERALS_PREFIX + "location", fileName); // this field doesn't exists in schema.xml, it'll be created as attr_location
  up.setParam(UNKNOWN_FIELD_PREFIX, "attr_");
  up.setParam(MAP_PREFIX + "content", "attr_content");
  up.setAction(AbstractUpdateRequest.ACTION.COMMIT, true, true);

  NamedList<Object> request = server.request(up);
  for(Entry<String, Object> entry : request){
    System.out.println(entry.getKey());
    System.out.println(entry.getValue());
  }
}

К сожалению, при запросе *: * я получаю списокпроиндексированные документы, но поле содержимого пустое.Как изменить приведенный выше код, чтобы извлечь также содержимое документа?

Ниже приведен фрагмент XML, описывающий этот документ : 

<doc>
  <arr name="attr_content">
    <str>            </str>
  </arr>
  <arr name="attr_location">
    <str>/home/alex/Documents/lsp.pdf</str>
  </arr>
  <arr name="attr_meta">
    <str>stream_size</str>
    <str>31203</str>
    <str>Content-Type</str>
    <str>application/pdf</str>
  </arr>
  <arr name="attr_stream_size">
    <str>31203</str>
  </arr>
  <arr name="content_type">
    <str>application/pdf</str>
  </arr>
  <str name="id">lsp.pdf</str>
</doc>

Не думаю, чточто эта проблема связана с неправильной установкой Apache Tika, потому что раньше у меня было несколько исключений ServerException, но теперь я установил необходимые jar-файлы по правильному пути.Более того, я пытался проиндексировать текстовый файл, используя тот же класс, но поле attr_content всегда пусто.

1 Ответ

1 голос
/ 25 апреля 2011

В файле schema.xml вы задали «сохранено = true» в поле содержимого, пример моего файла schema.xml, который я использую для хранения содержимого файлов pdf и других двоичных файлов.

<field name="text" type="textgen" indexed="true" stored="true" required="false" multiValued="true"/>

Вам это помогло?

Эктор

...