Обычно спецификации Cucumber охватывают сценарии использования вашего программного обеспечения высокого уровня, а RSpec - интерфейс ваших классов на более низком уровне.
Cucumber полезен, если вы хотите, чтобы нетехнический клиент / владелец продукта помог вам написать приемочные тесты - с помощью Cucumber вы создаете для них удобочитаемый DSL.
Поскольку клиенты вашей программы (gem) являются программистами, и вы не предоставляете никакого пользовательского интерфейса (только API), вы можете использовать RSpec и не добавлять Cucumber. Спецификации RSpec будут охватывать все публичные методы вашего API и предоставят хорошую спецификацию для гема.
Если вы хотите охватить сложный сценарий использования вашего продукта (когда пользователь вызывает несколько методов для достижения результата), может быть полезно добавить спецификацию Cucumber, но вы также можете написать высокоуровневые тесты с помощью RSpec.
Резюме: Для драгоценного камня разработки Огурец выглядит как излишнее, и я бы начал только с RSpec.