Я считаю, что IE делает что-то особенное, когда видит файл приложения. Вот почему развертывание ClickOnce не работало из FireFox, пока в .NET 3.5 SP1 не был добавлен обработчик. Поэтому то, что вы видите, будет правильным поведением - ваше приложение просто извлекает файл в виде потока байтов - оно не знает, что с ним делать.
Если вы хотите программно запустить приложение, я бы предложил вместо этого:
System.Diagnostics.Process.Start("http://localhost/test/test.application");
Обновление
Здесь немного больше информации обо всем, что есть в ClickOnce / FireFox здесь . Очевидно, для IE установлен обработчик MIME-типа, который распознает тип application / -ms-application и запускает файл с помощью установщика ClickOnce. Возможно, стоит проверить некоторые из старых надстроек FireFox, которые включали это до .NET 3.5 SP1, и посмотреть, что они сделали для программного запуска файла .application.