не внутри строки, но вы можете выйти из строки и объединить переменную в.
echo 'I love my '.$variable.'.';
Другим вариантом будет просто избежать двойных кавычек.
echo "I love my \"$variable\".";
Или просто входите и выходите из php, чтобы выводить переменные (хотя и некрасиво).
I love my <?php echo $variable; ?>.
With short tags enabled, I love my <?=$variable?>.
Наконец, существует формат heredoc, который допускает как одинарные, так и двойные кавычки вместе с переменными.
echo <<<HTML
I love my $variable. '"...
HTML;