Я думаю, исполняемый файл installshield является своего рода самораспаковывающимся исполняемым файлом. Сначала он извлекает файлы во временную папку, а затем запускает установку. Если exe поддерживает параметр командной строки для извлечения всех файлов, вы можете сделать так, чтобы он извлекался через вашу программу, а затем запросить у MSI код продукта.