document.getElementById("videoB")
Вы хотите вызвать функцию getElementById и передать идентификатор в качестве параметра.
Текущий путь возвращает:
document.getElementById
>>function getElementById() { [native code] }
Таким образом, вы фактически сравниваете указатель этой функции с переменной videoA (которая на самом деле не существует в вашем коде).
Однако, судя по вашему приложению, я бы на самом деле прикрепил обработчик onclick, чтобы увидеть, какой из них был нажат.
<a href="#" id="videoA" onClick="videoEvent(this)">Video A</a>
и в вашем javascript:
function videoEvent(videoLink){
// videoLink is now the ahref element
}