APC и memcache можно использовать вместе. 400 посетителей в секунду - это довольно много. Возможно, вам следует изучить возможности балансировщика нагрузки и настройки сервера с 2 или 3 веб-серверами. Таким образом, вы сможете распределить нагрузку и даже сможете оставаться в сети, когда один из серверов выйдет из строя.
Я не знаю, о чем этот веб-сайт, и если он тоже опирается на базы данных, но сайтам с большим количеством данных, поиском и фильтрами (подумайте о магазинах, вики и т. Д.) Понадобится тяжелый (и отдельный) сервер базы данных. тоже. В этих ситуациях база данных является более узким местом, чем сам веб-сервер.
Если у вас много статического контента, вы можете кэшировать большую часть данных или даже полные или частично отрендеренные страницы или куски HTML в memcache. Это может серьезно снизить нагрузку на базу данных.