Возможно, вы захотите проверить окно вывода в VS, чтобы убедиться, что пауза действительно связана с загрузкой DLL, которые еще не загружены. Если это так, то вы можете попробовать это:
Когда приложение запустится, загрузите пустое скрытое окно WPF и закройте его.
Это должно "предварительно загрузить" структуру представления (если это действительно проблема - в этих случаях иногда трудно сказать), чтобы при вызове нужного окна оно было готово к открытию.
Не лучшее решение, но пользователи обычно могут ждать 4 секунды.