Вам просто нужно изменить порядок компонентов, чтобы кнопка находилась внутри первого модала, а второй модал был снаружи, чтобы он не закрывался с первым модалом.
<div>
<b-btn v-b-modal.modal1>Launch demo modal</b-btn>
<b-modal id="modal1" title="Bootstrap-Vue">
<b-btn v-b-modal.modal2>Launch another modal</b-btn>
</b-modal>
<b-modal id="modal2" title="Bootstrap-Vue">
Vueception
</b-modal>
</div>
checkэто рабочий пример