Если библиотека статически связана, вам, возможно, придется немного осмотреться, возможно, вам повезет, и вы найдете строку, в которой указано название библиотеки или класса / функции в ней. Вы можете использовать OllyDbg для этого для просмотра строк, загруженных во время выполнения, или что-то вроде команды linux strings
для статического просмотра, хотя это не будет работать, если программа декодирует себя при запуске. Если это не сработает, вам придётся составить список библиотек, которые делают то, что вы смотрите, и найти некоторые артефакты в двоичном коде, которые являются общими для этих двух. В любом случае, лучше сначала проверить dlls, как сказал Пол Сасик.