Согласно документации, activ-admin поддерживает использование маршрутов без макета (свойство nolayout), но есть ли способ указать другой макет с использованием системы маршрутов?
Нет, вы не можете. Все маршруты CRUD имеют одинаковое расположение. Если вам нужен маршрут CRUD с определенным макетом, вам нужно будет определить один собственный маршрут для каждого.