rails server - это команда для запуска вашего сервера (обычно WEBrick), которая находится в rails .
rackup - это команда, поставляемая с rack middle и использует настройки вашего config.ru и запускает сервер на их основе.Это стандарт (он будет работать для других сред и стоечных приложений) и обычно используется на производственных серверах.
Одно отличие состоит в том, что если вы запустите сервер с rails s, то увидитевывод в терминале.
По моему опыту, на производстве rackup используется пассажиром фьюжн , поэтому вы не захотите rails s в этой ситуации.
Кроме того, порт можно изменить с помощью rails server и rackup, используя флаг -p.