Это, вероятно, раскалывание волос по семантике. Экземпляр - это группа процессов / потоков и памяти, взаимодействующих с файлами базы данных. Служба - это то, как это реализовано в Windows.
Я бы, вероятно, использовал бы концепцию Сервиса при общении с системным администратором / разработчиком Windows, но экземпляр при общении с администратором / разработчиком Oracle.