Плоский файл может быть немного быстрее, но в конечном итоге он будет более глючным, потому что вместо выполнения SELECT * FROM messages WHERE room=nnn AND ID > yyy
вам придется загрузить файл, проанализировать его, отсканировать каждую строку на наличие идентификатор сообщения, перейдите к нужному сообщению и прочитайте его.
Это только первая проблема. Текстовый файл не поддерживает запись несколькими пользователями (что, если два человека одновременно отправляют сообщения в одну и ту же комнату?) И может легко испортиться.
Учитывая все вышесказанное, я бы сказал, что лучше использовать БД, даже если это что-то простое, например, SQLite, с отличной поддержкой PHP. Однако, учитывая многопользовательское состояние, MySQL, вероятно, является гораздо лучшим выбором. Кроме того, MySQL обладает отличными возможностями кэширования, поэтому в большинстве случаев последние данные поступают непосредственно из ОЗУ и будут обрабатываться быстрее, чем вы можете сканировать текстовый файл в PHP в любом случае.