строки в двойных кавычках анализируются для переменных, и значение переменной вставляется в эту позицию. Я полагаю, это потому, что изначально PHP был спроектирован как тонкий слой шаблонизатора базы данных веб-сервера.
лично, мне это не нравится, и я никогда не использую двойные кавычки из-за этого. вместо этого я всегда использую одинарные кавычки и коннентацию строки:
<?php echo 'hello, ' . $name; ?>
делает так же, как:
<?php echo "hello, $name"; ?>
одинарные кавычки: лучше работает синтаксическая раскраска, она (незначительно) быстрее и ошибки легче обнаруживаются