Два подхода:
Подкласс NSClipView
Подкласс NSClipView и замена его во время выполнения (сногсшибательно легко).Подкласс будет реагировать на метод проверки сброса, рисуя любой эффект, который вы хотите, только внутри его границ.Может быть, NSBezierPath с прямоугольником, сделанным из границ представления клипа.
Представление документа
Представление вашего документа (представление внутри представления с прокруткой) запрашивает его -enclosingScrollview дляего -documentVisibleRect и рисует прямоугольник на себе точно так же, как метод подкласса NSClipView выше (т. е. тот же подход рисования в ответ на вызываемый метод проверки перетаскивания).