Вы спрашиваете о чем-то довольно грязном здесь. Я подозреваю, что ничего из этого вы не хотите делать вообще, и что вы действительно хотите сделать это каким-то более простым способом. Однако, если вы действительно хотите связываться с группами процессов ...
Обычно новая группа процессов создается только системным вызовом setpgrp (2). В противном случае процессы, созданные fork (2), всегда являются членами текущей группы процессов. Тем не менее, при создании новой группы процессов процессы в этой группе даже не контролируются каким-либо tty, и выполнение того, что вы, кажется, хотите делать правильно, требует понимания всей модели группы процессов. Хорошим примером того, как все это работает, является Стивенс, «Расширенное программирование в среде Unix», в котором подробно рассказывается о нем.
Если вы действительно хотите пойти по этому пути, вам придется внедрить popen или аналогичный файл со всеми соответствующими системными вызовами.