Хороший подход - использовать vcr gem.
Начиная с описания, этот гем позволяет записывать HTTP-взаимодействия вашего набора тестов и воспроизводить их во время будущих тестов для быстрых, детерминированных c, точных тестов.
С моей точки зрения, я бы записал 2 случая для вашего API, один для успешного ответа, а второй для неудачного ответа и проверил, что они покрыты вашим кодом, и вы не получите неожиданный результат.