Hashset поддерживаются хеш-таблицами, и нет никакой гарантии порядка поиска. Порядок поиска не будет таким же, как порядок вставки. Таким образом, нет возможности узнать, какой элемент был добавлен последним.
Обходные пути - можно использовать два хэш-набора, сравнить старые с новыми и получить новые записи или иметь какие-то индикаторы, чтобы отличить добавленную им перикулярную итерацию, или использовать ArrayList или что-либо, что подходит вашему дизайну.