В начале программы позвоните:
mlockall(MCL_CURRENT | MCL_FUTURE);
(Если у вас нет источника для программы, вам придется отменить процесс с помощью ptrace
, чтобы сделать это).
Имейте в виду, что это увеличит шансы выделения памяти из-за сбоя процесса.