Удаление определения выполняет оба действия: удаление определения и уничтожение (удаление всех ссылок на контейнеры в этом бине) соответствующего Singleton:
((BeanDefinitionRegistry) beanFactory).removeBeanDefinition("myBean");
Если вам просто нужно удалить синглтон, то:
((DefaultListableBeanFactory) beanFactory).destroySingleton("myBean");
Последний способ может быть особенно полезен, если вы только что зарегистрировали синглтон, но не определили каких-либо определений бина, т. Е.
((SingletonBeanRegistry) beanFactory).registerSingleton("myBean", myBeanInstance);