Это тот случай, когда вы должны рассмотреть вопрос о создании собственного исключения. Вы можете определить его в lib, а затем поймать его в коде, который вызывает ваш почтовик.
class AbortMailingException < Exception
end
# In your mailer ...
if !have_enough_recipients() # Or whatever conditions / checks you want to perform.
raise AbortMailingException.new
end
# In the code that calls your mailer ...
begin
my_mailer_function(args)
rescue AbortMailingException => e
# Handle error, log, ignore, whatever
end