Если вы обновили ui-bootstrap номер версии, обязательно проверьте критические изменения.
Одним из них, как вы определили, является изменение имени службы с $modalInstance на $uibModalInstance.
Измените все экземпляры в вашей базе кода, например
app.controller('AppCtrl', ['$modalInstance', function ($modalInstance) {}])
На
app.controller('AppCtrl', ['$uibModalInstance', function ($uibModalInstance) {}])
И в будущем убедитесь, что вы прочитать журнал изменений и проверить наличие изменений перед обновлением версий библиотеки.