<
, ?
и \
являются специальными символами оболочки. Когда вы цитируете, используя "
, оболочка пытается интерпретировать эти специальные символы, что приводит к получению оценочного имени файла, которое не существует (в данном случае).
Чтобы удалить эти файлы, вам нужно заключить их в кавычки, используя '
(одинарная кавычка). Это приведет к заключению строки в кавычки и сообщит оболочке не выполнять никакой оценки строки в кавычках.
т.е. rm '<?php' '<?php\n'