1.) Нет, невозможно, чтобы на одном и том же порту работали две разные программы, это просто невозможно. Но вы можете изменить любой из них для работы на разных портах (например, если вы хотите, чтобы Nginx был «основным», назначьте ему порт 80 и измените IIS на 8080 или любой другой). Или, как упоминает @nathanvda, вы можете использовать скрипт перенаправления из одного для отправки определенных путей другому (порт и путь).
2.) Ошибка «Запрещено перечисление каталогов» предполагает, что (а) вы неправильно установили разрешения для каталогов в IIS - убедитесь, что разрешения на выполнение разрешают сценарии во всех ваших каталогах Ruby, или (б) отображение обработчика, которое указывает файлам использовать интерпретатор Ruby через FastCGI, установлено неправильно - дважды проверьте шаг 8 или проверьте другие источники для получения дополнительной информации об этом параметре.