Как получить абсолютный URL при извлечении ссылок с помощью Nokogiri?

Question

Я использую Nokogiri для извлечения ссылок со страницы, но я бы хотел получить абсолютный путь, даже если тот, что на странице, является относительным.Как мне это сделать?

Answer 1

Нокогири не имеет никакого отношения, кроме того факта, что он дает вам ссылку для начала.Используйте библиотеку Ruby's URI для управления путями:

absolute_uri = URI.join( page_url, href ).to_s

Видно в действии:

require 'uri'

# The URL of the page with the links
page_url = 'http://foo.com/zee/zaw/zoom.html'

# A variety of links to test.
hrefs = %w[
  http://zork.com/             http://zork.com/#id
  http://zork.com/bar          http://zork.com/bar#id
  http://zork.com/bar/         http://zork.com/bar/#id
  http://zork.com/bar/jim.html http://zork.com/bar/jim.html#id
  /bar                         /bar#id
  /bar/                        /bar/#id
  /bar/jim.html                /bar/jim.html#id
  jim.html                     jim.html#id
  ../jim.html                  ../jim.html#id
  ../                          ../#id
  #id
]

hrefs.each do |href|
  root_href = URI.join(page_url,href).to_s
  puts "%-32s -> %s" % [ href, root_href ]
end
#=> http://zork.com/                 -> http://zork.com/
#=> http://zork.com/#id              -> http://zork.com/#id
#=> http://zork.com/bar              -> http://zork.com/bar
#=> http://zork.com/bar#id           -> http://zork.com/bar#id
#=> http://zork.com/bar/             -> http://zork.com/bar/
#=> http://zork.com/bar/#id          -> http://zork.com/bar/#id
#=> http://zork.com/bar/jim.html     -> http://zork.com/bar/jim.html
#=> http://zork.com/bar/jim.html#id  -> http://zork.com/bar/jim.html#id
#=> /bar                             -> http://foo.com/bar
#=> /bar#id                          -> http://foo.com/bar#id
#=> /bar/                            -> http://foo.com/bar/
#=> /bar/#id                         -> http://foo.com/bar/#id
#=> /bar/jim.html                    -> http://foo.com/bar/jim.html
#=> /bar/jim.html#id                 -> http://foo.com/bar/jim.html#id
#=> jim.html                         -> http://foo.com/zee/zaw/jim.html
#=> jim.html#id                      -> http://foo.com/zee/zaw/jim.html#id
#=> ../jim.html                      -> http://foo.com/zee/jim.html
#=> ../jim.html#id                   -> http://foo.com/zee/jim.html#id
#=> ../                              -> http://foo.com/zee/
#=> ../#id                           -> http://foo.com/zee/#id
#=> #id                              -> http://foo.com/zee/zaw/zoom.html#id

Более сложный ответ, использованный ранее URI.parse(root).merge(URI.parse(href)).to_s.
Спасибо @pguardiario за улучшение.

Answer 2

Phrogz 'ответ хорош, но проще:

URI.join(base, url).to_s

Answer 3

Вам нужно проверить, является ли URL абсолютным или относительным, с проверкой, если начинаются с http: Если URL является относительным, вам нужно добавить хост к этому URL. Вы не можете сделать это с помощью nokogiri. Вам нужно обработать весь URL внутри, чтобы сделать как абсолют.