Oracle на Windows немного странно.
Мало того, что oracle_home должен быть правильно установлен / выбран, версия oracle должна быть такой же, и запись oracle в реестре окна должна быть действительной. Если они не все правильно, вы не сможете подключиться к БД с помощью sqlplus "/ as sysdba".
Кроме этого, перейдите в папку, где хранится файл alert.log для базы данных. Посмотрите в файле журнала предупреждений и посмотрите, где находится база данных в процессе запуска и была ли она полностью запущена. Если он не открылся полностью, он должен быть открыт.
Поскольку вы не можете войти в базу данных как sysdba, это будет проблемой. Решите проблему входа в систему sysdba, чтобы вы могли локально войти в экземпляр как sysdba, а затем решить проблему перевода базы данных в оперативный режим. Лучше всего установить точную версию oracle на новом виртуальном компьютере, как на исходном сервере, создать ту же службу оракула, что и на prod-сервере виртуальной машины, аккуратно завершить работу сервера prod, скопировать все файлы базы данных из prod. сервер к вашей виртуальной машине в точное местоположение, как они существовали, не забудьте spfile. Запустите сервис на соответствующей машине и посмотрите, работает ли он. Прод не должен быть затронут, поэтому он должен перезагрузиться нормально. В vm взгляните на журнал предупреждений на наличие ошибок и исправьте их.
Если ничего не помогает, используйте Rman для дублирования вашего продукта на vm, и это должно сработать.