Вы должны взглянуть на эту ссылку ниже
http://sourceforge.net/apps/mediawiki/arsproject/index.php?title=Main_Page#Visual_Studio
перейти в раздел (в середине страницы) Open Dynamic Engine (ODE)
Шаги установки для Windows.
Я выполнил следующие действия, и установка работает нормально. В папке ODE lib у вас есть 2 папки
с таким именем, как DebugDoubleDll или ReleaseDoubleDll? если вы скомпилировали с двойной точностью.
Если да, у вас должна быть библиотека с именем ode_doubled.lib в папке ODE lib.
Вы пытались запустить демонстрационный исполняемый файл для проверки вашей установки?
Последнее, вы включили в переменную окружения PATH папку lib (где расположены библиотеки), если нет, возможно, это причина того, почему у вас появилось это сообщение об ошибке.