Самый простой способ - просто установить VirtualBox (или что-то подобное, например, VMWare), установить CentOS 3 или любой подходящий старый дистрибутив с ядром 2.4 и собрать / протестировать ваше приложение на что.
Поскольку вы получаете «слишком старое ядро», скорее всего, вы полагаетесь на некоторые функции, отсутствующие в ядрах 2.4, поэтому вам придется отследить и переработать это.
Ошибка может быть просто вызвана статической связью с glibc, вы можете попробовать связать ее с glibc динамически и со всеми другими вашими библиотеками статически, хотя для обратной совместимости вам придется создавать свое приложение на старой системе glibv. Использование lsb инструментов для сборки тоже может помочь