Получить название сайта по ссылке - PullRequest
35 голосов
/ 03 декабря 2010

Обратите внимание, что Новости Google имеют источники внизу каждой статьи.

The Guardian - ABC News - Reuters - Bloomberg

Я пытаюсь подражать этому.

Например, при отправке URL http://www.washingtontimes.com/news/2010/dec/3/debt-panel-fails-test-vote/ Я хочу вернуть The Washington Times

Как это возможно с php?

Ответы [ 10 ]

61 голосов
/ 03 декабря 2010

Мой ответ расширяется на ответ @AI W об использовании заголовка страницы.Ниже приведен код для выполнения того, что он сказал.

<?php

function get_title($url){
  $str = file_get_contents($url);
  if(strlen($str)>0){
    $str = trim(preg_replace('/\s+/', ' ', $str)); // supports line breaks inside <title>
    preg_match("/\<title\>(.*)\<\/title\>/i",$str,$title); // ignore case
    return $title[1];
  }
}
//Example:
echo get_title("http://www.washingtontimes.com/");

?>

ВЫХОД

Washington Times - Политика, экстренные новости, новости США и мира

Как видите, это не совсем то, что использует Google, так что это заставляет меня поверить, что они получают имя хоста URL и сопоставляют его со своим собственным списком.

http://www.washingtontimes.com/ => The Washington Times

31 голосов
/ 03 декабря 2010
$doc = new DOMDocument();
@$doc->loadHTMLFile('http://www.washingtontimes.com/news/2010/dec/3/debt-panel-fails-test-vote/');
$xpath = new DOMXPath($doc);
echo $xpath->query('//title')->item(0)->nodeValue."\n";

Вывод:

Долговая комиссия не справилась с тестовым голосованием - Washington Times

Очевидно, вам также следует реализовать базовую обработку ошибок.

6 голосов
/ 03 декабря 2010

Вы можете получить содержимое URL-адреса и выполнить поиск по регулярному выражению содержимого элемента title.

<?php
$urlContents = file_get_contents("http://example.com/");
preg_match("/<title>(.*)<\/title>/i", $urlContents, $matches);

print($matches[1] . "\n"); // "Example Web Page"
?>

Или, если вы не хотите использовать регулярное выражение (для сопоставления с чем-то очень близким к верху документа), вы можете использовать DOMDocument объект :

<?php
$urlContents = file_get_contents("http://example.com/");

$dom = new DOMDocument();
@$dom->loadHTML($urlContents);

$title = $dom->getElementsByTagName('title');

print($title->item(0)->nodeValue . "\n"); // "Example Web Page"
?>

Я оставляю на ваше усмотрение решение, какой метод вам больше нравится.

5 голосов
/ 03 декабря 2010

Использование get_meta_tags () с домашней страницы домена, поскольку NYT возвращает что-то, что может потребовать усечения, но может быть полезным.

$b = "http://www.washingtontimes.com/news/2010/dec/3/debt-panel-fails-test-vote/" ;

$url = parse_url( $b ) ;

$tags = get_meta_tags( $url['scheme'].'://'.$url['host'] );
var_dump( $tags );

включает в себя описание «The Washington Times» предоставляет последние новости и комментарии по вопросам, которые влияют на будущее нашей нации ».

4 голосов
/ 03 декабря 2010

Руководство по PHP для cURL

<?php

$ch = curl_init("http://www.example.com/");
$fp = fopen("example_homepage.txt", "w");

curl_setopt($ch, CURLOPT_FILE, $fp);
curl_setopt($ch, CURLOPT_HEADER, 0);

curl_exec($ch);
curl_close($ch);
fclose($fp);
?>

Руководство по PHP для сопоставления регулярных выражений Perl

<?php
$subject = "abcdef";
$pattern = '/^def/';
preg_match($pattern, $subject, $matches, PREG_OFFSET_CAPTURE, 3);
print_r($matches);
?>

И соединяя эти два:

<?php 
// create curl resource 
$ch = curl_init(); 

// set url 
curl_setopt($ch, CURLOPT_URL, "example.com"); 

//return the transfer as a string 
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 

// $output contains the output string 
$output = curl_exec($ch); 

$pattern = '/[<]title[>]([^<]*)[<][\/]titl/i';

preg_match($pattern, $output, $matches);

print_r($matches);

// close curl resource to free up system resources 
curl_close($ch);      
?>

Я не могу обещать, что этот пример будет работать, так как у меня здесь нет PHP, но он должен помочь вам начать.

2 голосов
/ 21 января 2013

Если вы хотите использовать для этого сторонний сервис, я только что построил его на www.runway7.net / radar

Дает вам название, описание и многое другое.Например, попробуйте ваш пример на радаре .(http://radar.runway7.net/?url=http://www.washingtontimes.com/news/2010/dec/3/debt-panel-fails-test-vote/)

1 голос
/ 13 июля 2013

Получить заголовок веб-сайта по ссылке и преобразовать заголовок в кодировку символов utf-8:

https://gist.github.com/kisexu/b64bc6ab787f302ae838

function getTitle($url)
{
    // get html via url
    $ch = curl_init();
    curl_setopt($ch, CURLOPT_AUTOREFERER, true);
    curl_setopt($ch, CURLOPT_HEADER, 0);
    curl_setopt($ch, CURLOPT_USERAGENT, "Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/28.0.1500.71 Safari/537.36");
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
    curl_setopt($ch, CURLOPT_URL, $url);
    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
    $html = curl_exec($ch);
    curl_close($ch);

    // get title
    preg_match('/(?<=<title>).+(?=<\/title>)/iU', $html, $match);
    $title = empty($match[0]) ? 'Untitled' : $match[0];
    $title = trim($title);

    // convert title to utf-8 character encoding
    if ($title != 'Untitled') {
        preg_match('/(?<=charset\=).+(?=\")/iU', $html, $match);
        if (!empty($match[0])) {
            $charset = str_replace('"', '', $match[0]);
            $charset = str_replace("'", '', $charset);
            $charset = strtolower( trim($charset) );
            if ($charset != 'utf-8') {
                $title = iconv($charset, 'utf-8', $title);
            }
        }
    }

    return $title;
}
1 голос
/ 03 декабря 2012

Я написал функцию для обработки:

 function getURLTitle($url){

    $ch = curl_init();

    curl_setopt($ch, CURLOPT_URL, $url);

    curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);

    $content = curl_exec($ch);

    $contentType = curl_getinfo($ch, CURLINFO_CONTENT_TYPE);
    $charset = '';

    if($contentType && preg_match('/\bcharset=(.+)\b/i', $contentType, $matches)){
        $charset = $matches[1];
    }

    curl_close($ch);

    if(strlen($content) > 0 && preg_match('/\<title\b.*\>(.*)\<\/title\>/i', $content, $matches)){
        $title = $matches[1];

        if(!$charset && preg_match_all('/\<meta\b.*\>/i', $content, $matches)){
            //order:
            //http header content-type
            //meta http-equiv content-type
            //meta charset
            foreach($matches as $match){
                $match = strtolower($match);
                if(strpos($match, 'content-type') && preg_match('/\bcharset=(.+)\b/', $match, $ms)){
                    $charset = $ms[1];
                    break;
                }
            }

            if(!$charset){
                //meta charset=utf-8
                //meta charset='utf-8'
                foreach($matches as $match){
                    $match = strtolower($match);
                    if(preg_match('/\bcharset=([\'"])?(.+)\1?/', $match, $ms)){
                        $charset = $ms[1];
                        break;
                    }
                }
            }
        }

        return $charset ? iconv($charset, 'utf-8', $title) : $title;
    }

    return $url;
}

извлекает содержимое веб-страницы и пытается получить кодировку кодировки документа ((от наивысшего приоритета к наименьшему):

  1. HTTP-параметр "charset" в поле "Content-Type".
  2. Объявление META с http-эквивалентным значением "Content-Type" и значением, установленным для "charset".
  3. Атрибут charset, установленный для элемента, который обозначает внешний ресурс.

(см. http://www.w3.org/TR/html4/charset.html)

, а затем использует iconv для преобразования заголовка в кодировку utf-8.

1 голос
/ 03 декабря 2010

В качестве альтернативы вы можете использовать Simple Html Dom Parser :

<?php
require_once('simple_html_dom.php');

$html = file_get_html('http://www.washingtontimes.com/news/2010/dec/3/debt-panel-fails-test-vote/');

echo $html->find('title', 0)->innertext . "<br>\n";

echo $html->find('div[class=entry-content]', 0)->innertext;
0 голосов
/ 19 сентября 2014

Я стараюсь избегать регулярных выражений, когда в этом нет необходимости, я сделал функцию для получения заголовка сайта с помощью curl и DOMDocument ниже.

function website_title($url) {
   $ch = curl_init();
   curl_setopt($ch, CURLOPT_URL, $url);
   curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
   // some websites like Facebook need a user agent to be set.
   curl_setopt($ch, CURLOPT_USERAGENT, 'Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1453.94 Safari/537.36');
   $html = curl_exec($ch);
   curl_close($ch);

   $dom  = new DOMDocument;
   @$dom->loadHTML($html);

   $title = $dom->getElementsByTagName('title')->item('0')->nodeValue;
   return $title;
}

echo website_title('https://www.facebook.com/');

выше возвращает следующее: Добро пожаловать в Facebook - войдите, зарегистрируйтесь или узнайте больше

...