По умолчанию будет использоваться HTML, если вы не дадите (и не примете) другой ответ. Проверьте этот Railscast , чтобы узнать, как настроить запрос AJAX и ответ с RJS (есть другой способ сделать это с помощью jQuery).
В основном вам понадобится строка format.js. Вы также можете просмотреть форму .js.erb, где вы пишете JavaScript для запуска на ответе сервера.
В качестве дополнительного примечания, если у вас нет очень определенного веб-сайта, я бы рекомендовал не делать только AJAX. Это не очень доступно для пользователей без JavaScript, как слепые пользователи с программой чтения с экрана.