Похоже на разницу в конфигурации между Release и Debug.Проверьте значения для «Оптимизация всей программы», они могут отличаться между двумя конфигурациями сборки.
У меня была та же проблема в обратном порядке: в режиме выпуска все было хорошо, но в режиме отладки некоторые функции, такие как'ext' (библиотека FFTW) была объявлена как "неопределенная; при условии, что extern возвращает int".
В конфигурации с ошибкой сборки (в моем случае это Release) в свойствах проекта Configuration Properties > General
установлен параметр "Оптимизация всей программы"No Whole Program Optimization
.
Для конфигурации успешной сборки было установлено значение Use Link Time Code Generation
.Когда я установил эту опцию и в своей неудачной цели, все работало нормально.