Запустите запрос к вашей базе данных MySQL. Сначала сделайте резервную копию.
update wp_posts set post_content = TRIM(LEADING '>' FROM post_content);
Обратите внимание, что если префикс таблицы вашей базы данных отличается, вам нужно изменить значение для wp_posts выше.
Это также предполагает, что ">" является самым первым символом.