Вы хотите проверить, правильно ли выдает функция при некоторых обстоятельствах?
Если так
BOOST_CHECK_THROW( function(), exception_type );
сделает это. Вы можете использовать
BOOST_CHECK_EXCEPTION( function(), exception_type, predicate )
для вызова произвольного предиката для исключения, когда оно перехвачено, и
BOOST_CHECK_NO_THROW( function() )
, чтобы гарантировать, что функция не выдает.
См .: http://www.boost.org/doc/libs/1_44_0/libs/test/doc/html/utf/testing-tools/reference.html