Если ваша DLL написана в управляемом коде, то нет способа заставить ее выгружаться как надстройка Visual Studio. CLR не поддерживает такой механизм.
Единственный способ принудительно выгрузить DLL из процесса - это разорвать все домены приложений, которые загрузили DLL. В сценарии надстройки Visual Studio надстройка будет загружена в домен приложения по умолчанию. Разрушение этого требует разрушения всего процесса: (