Как изолировать отдельный элемент от очищенной веб-страницы в R - PullRequest
Новая
       27

Как изолировать отдельный элемент от очищенной веб-страницы в R

11 голосов
/ 08 июня 2010

Я хочу использовать R, чтобы очистить эту страницу: (http://www.fifa.com/worldcup/archive/germany2006/results/matches/match=97410001/report.html) и другие, чтобы получить очки и время.

Пока что это то, что у меня есть: 

require(RCurl)
require(XML)

theURL <-"http://www.fifa.com/worldcup/archive/germany2006/results/matches/match=97410001/report.html"
webpage <- getURL(theURL, header=FALSE, verbose=TRUE) 
webpagecont <- readLines(tc <- textConnection(webpage)); close(tc)  

pagetree <- htmlTreeParse(webpagecont, error=function(...){}, useInternalNodes = TRUE)

и объект pagetree теперь содержит указатель на мой разобранный html (я думаю).Часть, которую я хочу, это: 

<div class="cont")<ul>
<div class="bold medium">Goals scored</div>
        <li>Philipp LAHM (GER) 6', </li>
        <li>Paulo WANCHOPE (CRC) 12', </li>
        <li>Miroslav KLOSE (GER) 17', </li>
        <li>Miroslav KLOSE (GER) 61', </li>
        <li>Paulo WANCHOPE (CRC) 73', </li>
        <li>Torsten FRINGS (GER) 87'</li>
</ul></div>

Но теперь я потерялся в том, как их изолировать, и, откровенно говоря, xpathSApply и xpathApply сбивают с толку пчел из меня!Итак, кто-нибудь знает, как сформулировать команду для высасывания элемента, содержащегося в тегах <div class="cont">?

1 Ответ

16 голосов
/ 08 июня 2010

Эти вопросы очень полезны при работе с веб-скребком и XML в R:

  1. Извлечение HTML-таблиц в R-фреймы данных с использованием пакета XML
  2. Как преобразовать данные XML в data.frame?

Что касается вашего конкретного примера, хотя я не уверен, как вы хотите, чтобы результат выглядел, это дает "забитые голы" в виде вектора персонажа: 

theURL <-"http://www.fifa.com/worldcup/archive/germany2006/results/matches/match=97410001/report.html"
fifa.doc <- htmlParse(theURL)
fifa <- xpathSApply(fifa.doc, "//*/div[@class='cont']", xmlValue)
goals.scored <- grep("Goals scored", fifa, value=TRUE)

Функция xpathSApply получает все значения, соответствующие заданным критериям, и возвращает их как вектор. Обратите внимание, как я ищу div с class = 'cont'. Использование значений классов часто является хорошим способом анализа HTML-документа, поскольку они являются хорошими маркерами.

Вы можете очистить это, как хотите: 

> gsub("Goals scored", "", strsplit(goals.scored, ", ")[[1]])
[1] "Philipp LAHM (GER) 6'"    "Paulo WANCHOPE (CRC) 12'" "Miroslav KLOSE (GER) 17'" "Miroslav KLOSE (GER) 61'" "Paulo WANCHOPE (CRC) 73'"
[6] "Torsten FRINGS (GER) 87'"
...