Вы можете создать таблицу, например,
logins
id user_id login_at
Когда новый пользователь войдет в систему, создайте для нее транзакцию,
Вам необходимо проверить счет этой таблицы,
если значение меньше или равно 3, вставьте новую зарегистрированную запись, иначе выведите сообщение об ошибке.