Баскетбол ненадежный тест:
$string = file_get_contents($url);
if (strpos($string, '<rss') !== FALSE)) {
... yes, it's probably rss
}
Более сложной версией было бы загрузить строку XML (при условии, что она выглядит как xml) в валидатор XML и посмотреть, соответствует ли она DTD RSS. Больше работы, но и гораздо надежнее.