Насколько я знаю, в том же AppDomain нет способа сделать это.
Одна из возможностей состоит в том, чтобы иметь несколько доменов приложений и один загружать другой домен приложений, запустить то, что необходимо, а затем закрыть этот домен приложений, который снимет блокировку сборки.Это немного сложно реализовать, но если вам нужно сделать это, выполнимо.Если вам нужна помощь, дайте мне крик.
Обновление Предоставьте сообщение об ошибке при сериализации, чтобы мы также могли это выяснить.