Проверьте журнал событий - он скажет вам, если процесс перерабатывается.
Предполагая, что это так, я думаю, что некоторые параметры лимитов повторного использования не были перенесены в настройки пула приложений при обновлении машины до Win2k3 / IIS6. В Win2k / IIS5 параметры восстановления находятся в узле processModel в файле machine.config. Эти параметры необходимо перенести в соответствующий пул приложений в среде IIS6 (я полагаю, эти параметры не переносятся автоматически).
Я бы также рассмотрел настройки корзины в пуле приложений. Возможно, он настроен на слишком частую перезагрузку (по количеству минут или количеству запросов) или слишком малы максимумы памяти.