Вам необходимо обработать исключение FileNotFoundException внутри метода removeEldestEntry (обработать как, поймать и зарегистрировать его).Вы не можете прикреплять новые исключения к сигнатуре метода при переопределении метода, потому что тогда ваш подкласс больше не будет заменять то, что вы подклассируете.
В противном случае найдите другой способ сделать это такчто ваш removeEldestEntry помещает записи в очередь, а кто-то еще читает очередь и выполняет сериализацию в файл.На самом деле после прочтения Javadoc кажется, что должно быть лучшее место для размещения этой логики, тот же код, который фактически выполняет удаление, вероятно, будет лучшим местом для сериализации.