Проблема в том, что ваш проект является приложением Windows и включает в себя windows.h, windows.h включает макросы для минимального и максимального значений.
Решение состоит в том, чтобы определить #define NOMINMAX. Вы можете сделать это через страницы свойств проекта.> C / C ++> Препроцессор> Определения препроцессора
Кроме того, добавьте #define BOTAN_DLL в botan_all.h, чтобы избежать ошибки по крайней мере в версии 1.10.1