Джон был первым, и я думаю, что его решение должно быть предпочтительнее, потому что оно намного элегантнее, но вот другое:
$site = implode("/", array_filter(explode("/", $site)));
Обновление
Thx. Я обновил его, и теперь даже обрабатывает такие вещи, как это
$site = "///test///test//"; /* to => test/test */
Что, вероятно, делает его еще круче, чем принятый ответ;)