Существует проблема с вашим условием:
if (document.body.scrollTop > 50 || document.documentElement.scrollTop > 50)
ваше первое условие никогда не выполняется, document.body.scrollTop всегда оценивается в 0. Ваше второе условие активируется, а затем размер баннера уменьшается,когда размер баннера уменьшается, второе условие больше не выполняется и размер баннера увеличивается. как только он увеличивается, условие проходит снова и т. д. в цикле.