«Отжиг» в этом смысле является аналогом химического процесса, при котором температура снижается.
Здесь также термин «температура» в softmax уменьшается, постепенно изменяя его с «мягкой» сигмовидной функции на «острый» argmax
Попробуйте построить для себя функцию softmax с разными температурами, вы увидите разницу ...