Как очистить страницу JSP в R? - PullRequest
Новая
       49

Как очистить страницу JSP в R?

0 голосов
/ 30 мая 2018

Я хочу удалить содержимое следующей страницы в R: http://directoriosancionados.funcionpublica.gob.mx/SanFicTec/jsp/Ficha_Tecnica/SancionadosN.htm

Однако я не могу найти ни HTML-тег, ни какой-либо другой инструмент, который мог бы помочь мне получить информацию.

Я заинтересован в создании фрейма данных с информацией раздела «INHABILITADOS Y MULTADOS», как показано на следующих изображениях:

Это конкретный вариант, который я пытаюсьto scrap

Когда выбрана эта опция, появляется меню нескольких провайдеров, каждый из которых имеет определенную таблицу с информацией, которую я хочу вспомнить.

Списокпровайдеры

Информация, которую я, наконец, хочу удалить

1 Ответ

0 голосов
/ 30 мая 2018

Обычно вы можете использовать метод GET для запросов.Но для этого веб-сайта вам необходимо использовать метод POST:

Проверьте вкладку сети в режиме Chrome Developer (нажмите F12)

enter image description here

На следующих изображениях отправьте данные формы в теле запроса POST.

enter image description here

enter image description here

Поиск шаблонов в onclick : значение onlick используется для отправки форм

pattern

Должен работать следующий скрипт: 

library(httr)
library(rvest)
library(stringr)
library(dplyr)
my_url <- "http://directoriosancionados.funcionpublica.gob.mx/SanFicTec/jsp/Ficha_Tecnica/SancionadosN.jsp"
my_ua <- "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36"


#use post method instead of get to get correct response
response <- POST(my_url,
                 user_agent(my_ua),
                 body = list(cmdsan = "INHABILITA",
                             tipoqry = "INHABILITA",
                             mostrar_msg = "SI"),
                 encode = "form")


href_nodes <- content(response) %>%
  html_node("table") %>%
  html_nodes("a")

link_text <- href_nodes %>% 
  html_text() %>% 
  as.tibble() %>%
  rename(text = value)

form_items <- href_nodes %>% 
  html_attr("onclick") %>% # extract items to POST
  str_extract("(?<=\\().*?(?=\\))") %>% # extract everything inside brackets
  str_split("\\,",simplify = T) %>%# split POST items
  as.tibble() %>%
  mutate(V1 = str_sub(V1,start = 2,end =-2))


submit_table <- bind_cols(link_text,form_items)

#using POST method to get to the page you want
#for example, if you want to go to page A Y M CONSTRUCTORA, S.A. DE C.V (row 2)
#you should:

row_num <- 2

my_url2 <- "http://directoriosancionados.funcionpublica.gob.mx/SanFicTec/jsp/Ficha_Tecnica/FichaSinTabla.jsp"

response1 <- POST(my_url2,
                 user_agent(my_ua),
                 body = list(expe = submit_table$V1[row_num],
                             tipo = submit_table$V2[row_num],
                             persona = submit_table$V3[row_num]),
                 encode = "form")

контент в submit_table, который будет использоваться позже, чтобы сделать запрос POST для получения контента на каждой отдельной странице.

> submit_table 
# A tibble: 1,329 x 4
text                                        V1             V2    V3   
<chr>                                       <chr>          <chr> <chr>
  1 A AND P INTERNATIONAL                       185770002/2016 1     3    
2 A Y M CONSTRUCTORA, S.A. DE C.V.            000090121/2006 1     3    
3 A Y V INDUSTRIAL Y COMERCIAL, S.A. DE C.V.  184000001/2013 1     3    
4 A+D ARQUITECTOS, S.A. DE C.V.               181640187/2006 1     3    
5 A.D.C. Consultores y Servicios, S.A de C.V. 111510007/2005 1     3    
6 AARON VERA MORALES                          006410056/2011 1     3    
7 ABASTECEDORA DE FÁRMACOS, S.A. DE C.V.      006410002/2014 1     3    
8 ABASTECEDORA EZCO, S.A. DE C.V.             000070024/2016 1     3    
9 ABEL ZURITA MAYO                            000200012/2014 1     3    
10 ABS TECNOLOGÍA, S.A. DE C.V.                090850001/2016 1     3    
# ... with 1,319 more rows

Вы можете использовать функции в rvest для извлечения этих элементов, используя ответ: 

(content(response1) %>% html_nodes(".normal") %>% html_text() %>% str_trim())[3]

вернет: 

[1] "Publicación en el DOF: 05 DE ABRIL DE 2007Monto de la Multa: $ 72,540.00Plazo de inhabilitación: 3 MESESInicia: 06 DE ABRIL DE 2007Termina: 06 DE JULIO DE 2007"
...