nutch Невозможно успешно разобрать содержимое - PullRequest
Новая
       6

nutch Невозможно успешно разобрать содержимое

0 голосов
/ 09 января 2012

Я пытаюсь сканировать, используя Nutch 1.4, но при синтаксическом анализе я сталкиваюсь с ошибкой, это файл журнала: 

2012-01-09 09:12:02,696 INFO  parse.ParseSegment - ParseSegment: starting at          2012-01-09 09:12:02 
2012-01-09 09:12:02,697 INFO  parse.ParseSegment - ParseSegment: segment: crawl/segments/20120109091153
2012-01-09 09:12:03,416 WARN  parse.ParseUtil - Unable to successfully parse content http://sujitpal.blogspot.com/ of type application/xhtml+xml
2012-01-09 09:12:03,417 INFO  parse.ParseSegment - Parsing: http:// sujitpal.blogspot.com/
2012-01-09 09:12:03,418 WARN  parse.ParseSegment - Error parsing: http://sujitpal.blogspot.com/: failed(2,200): org.apache.nutch.parse.ParseException: Unable to successfully parse content
2012-01-09 09:12:03,419 INFO  crawl.SignatureFactory - Using Signature impl: org.apache.nutch.crawl.MD5Signature

, проверив config / nutch-site.xml Я обнаружил, что html | text | xhtml | xml включены в плагин. Включает свойство 

<property>
<name>plugin.includes</name>
<value>myplugins|protocol-httpclient|query-(basic|site|url)|summary- 
basic|urlfilter-    
regex|parse-(xml|xhtml|html|tika|text|js)|index-(basic|anchor)|scoring-  
opic|urlnormalizer-(pass|regex|basic)|query-(basic|site|url)|response-(json|xml)
</value>
<description>Regular expression naming plugin directory names to
include.  Any plugin not matching this expression is excluded.
In any case you need at least include the nutch-extensionpoints plugin. By
default Nutch includes crawling just HTML and plain text via HTTP,
and basic indexing and search plugins. In order to use HTTPS please enable 
protocol-httpclient, but be aware of possible intermittent problems with the 
underlying commons-httpclient library.
</description>
</property>

Почему он не может разобрать xhtml / xml или даже text / xml?

1 Ответ

1 голос
/ 17 января 2012

Какие плагины вы настроили?Если вы используете tika, то у tika есть отображение от mime-типа, такого как xhtml / xml, к парсеру.Если в файле конфигурации нет записи, ничего не происходит.

Вы можете отключить tika и использовать только плагин parse-html.

Я протестировал ваш сайт с нашей конфигурацией плагина по умолчанию. 

protocol-http|urlfilter-regex|parse-(html)|index-(basic|anchor)
|query-    (basic|site|url)|response-(json|xml)
|summary-basic|scoring-opic|urlnormalizer-     
(pass|regex|basic)

И получил вашу страницу проанализированной. 

Parsed (32ms):http://sujitpal.blogspot.com/

Grettings JPee

...