По моему опыту, да. У меня была система, в которой APC показывал 100% фрагментацию, а производительность была плохой. Я увеличил лимит памяти APC (до 200 МБ в моем случае - но у нас было много кода) достаточно, чтобы освободить место. Фрагментация упала до нуля, и IIRC, загрузка ЦП на сервере снизилась на 50%.
Также убедитесь, что вы используете скрипт apc.php, поставляемый с APC, для мониторинга фрагментации / использования. Мы даже написали проверку nagios для просмотра APC, потому что у нас достаточно трафика, чтобы apache полностью блокировался при заполнении APC.
Мораль истории: предоставьте APC достаточно памяти и следите за использованием.