getScript
не «загружает» скрипт в смысле его хранения; он загружает скрипт с сервера и запускает его немедленно. Так что нет необходимости удалять его.
Однако любые объекты DOM, которые создает сценарий, или функции, которые он определяет и т. Д., Будут продолжать существовать. Чтобы удалить их, нужно точно знать, кто они; вероятно, лучше всего, чтобы ваш скрипт определял функцию, которая удаляет все вещи, которые создает остальная часть скрипта.