При отображении наложения вы можете сделать что-то вроде:
a) Отключить прокрутку для основного документа - $(document).css('overflow', 'hidden');
b) Установить высоту наложения на высоту окна - $(overlay).css('height', $(window).height()+'px');
c) Установить переполнение: авто для наложения - $(overlay).css('overflow', 'auto');
Это должно гарантировать, что прокрутка работает только до конца содержимого в наложении.