Я не думаю, что это имеет значение. Вы можете запустить 64-разрядную версию с рабочего стола, внешнего диска и т. Д. Так же, как и 32-разрядное приложение. Я думаю, что разница чисто для организации.
Или, скажем, вы разрабатываете 32-битную и 64-битную версию приложения, вы можете установить их оба и запустить их рядом, поместив их в отдельные папки Program Files.