Я не думаю, что это возможно, учитывая, что фактическое движение окна выполняется только операционной системой (и я не могу представить ни одно приложение, которое сейчас ограничивает такое движение).
Но, возможно, вы можете эмулировать такое поведение, инкапсулируя ваше реальное приложение в другое окно. Затем вы можете изменить фактический размер приложения на весь экран, сделать его прозрачным и использовать startDrag для эмуляции перетаскивания внутреннего окна. Потому что с помощью этой функции вы можете указать границы, в которых разрешено движение.
Однако я не знаю, будет ли это работать так, как вы хотели бы.