Одним из необязательных столбцов, которые вы можете использовать с paperclip, является OBJECT_file_size, который вы можете суммировать как
# Assuming a user has many files relationship
@user.uploads.sum(:image_file_size)
Что касается фактического наложения ограничения, я бы порекомендовал создать пользовательскую проверку для любой файловой модели, чтобы вы могли передавать ошибки и проблемы обратно клиенту.