Вы пытались вызвать Javascript для атрибута onclick
<a onclick="alert('test')"
href='login.html?sid=0&keepThis=true&TB_iframe=true&height=240&width=650' class="thickbox" title='test' >
Это откроет всплывающее окно и затем перейдет по URL (проверено на Firefox 7).
Редактировать: Другое решение - сделать href местоположение после всплывающего окна:
<a onclick="alert('test');document.location.href='login.html?sid=0&keepThis=true&TB_iframe=true&height=240&width=650'"
class="thickbox" title='test'>