Вам нужно написать метод get count (количество записей в sqlite DB) и проверить, если count равен 5, то перед вставкой записи в DB вы можете удалить существующую строку, которую хотите удалить. (Для этого такжевам нужно написать метод, который принимает какой-то уникальный ключ, чтобы вы могли удалить только эту строку.)