Размещение окон осуществляется оконным менеджером. Я вижу, что вы пометили этот MacOS, поэтому я предполагаю, что вы запускаете приложения X11 через MacOS. Я не использую MacOS, поэтому я не уверен, какой у вас WM, но на самом деле решать WM. Если у вас есть некоторые функции Xlib или XCB для работы, вы, вероятно, можете установить некоторые подсказки для размещения с помощью XChangeProperty (Xlib) или xcb_change_property (XCB). Нет никакого способа гарантировать, что WM сделает с ними что-нибудь, но это возможно. Вы также можете перемещать и изменять размеры окон, используя XConfigureWindow / xcb_configure_window.
В двух словах, размещение обрабатывается WM, который может делать это так, как ему хочется, и окна не обязаны прослушивать любые запросы, сделанные другими приложениями. Все, что вы можете сделать, это попробовать некоторые вещи и посмотреть, что работает.