Прежде всего, это зависит от режима состояния сеанса. Ваши мысли будут касаться внутрипроцессного режима или какого-либо другого пользовательского режима, который будет хранить объекты в памяти.
С другой стороны, удаление объекта из состояния сеанса не означает, что вы его убили. Это просто набор объектов, как и любой другой (например, список).
Объекты уничтожаются и удаляются из памяти сборщиком мусора.
Подробнее о сборщике мусора можно прочитать в этой статье MSDN: