У вас есть источник для библиотеки? Если это так, и вы перекомпилируете его, вам это может сойти с рук (если авторы библиотеки не делали предположений, которые нарушались при компиляции для x86-64). Испытай тяжело и проверь долго.
Если у вас нет источника (у вас просто скомпилированный двоичный файл i386), компоновщик даже не позволит вам связать с ним код x86-64. ABI просто не совместимы.
Во втором случае вам придется создать отдельный 32-битный вспомогательный процесс / обертка, который связывается с 32-битной библиотекой и принимает запросы на вызов библиотеки из 64-битного процесса через механизм IPC ( возвращая результаты). Вы можете создавать функции-оболочки на 64-битной стороне вокруг IPC, чтобы она выглядела как обычные вызовы библиотеки. Ваш 64-битный процесс должен будет запустить 32-битный вспомогательный процесс при запуске (и убедиться, что вспомогательный процесс знает, что он завершается при исчезновении родительского процесса).