Да, эти крутые ублюдки труднее всего исправить. К счастью, вы можете предпринять некоторые шаги, которые дадут вам подсказки, прежде чем вы начнете вручную просматривать код и надеетесь найти иглу.
Когда происходит сбой? На каждом тесте? На конкретный тест? Что этот тест делает то, что другие не делают?
В чем ошибка? Если это нарушение прав доступа, есть ли шаблон, где это происходит? Если адреса низкие, это может означать, что где-то есть неинициализированный указатель.
Не происходит ли сбой программы при настройке отладки, но без отладчика? Если это так, то, скорее всего, это проблема синхронизации потоков, как указал Джон Смитерс.
Вы пробовали запустить код через анализатор, такой как Purify? Это медленно, но обычно стоит подождать.
Попробуйте все равно отладить конфигурацию релиза. Он будет выгружать только сборки, но он все же может дать вам представление о том, что происходит, например, если указатель кода переходит в середину мусора или достигает точки останова во внешней библиотеке.
Вы работаете на архитектуре Intel? Если это не так, следите за ошибками выравнивания памяти, они могут аварийно завершить работу без предупреждения на некоторых архитектурах, и эти алгоритмы кодеков часто создают такие ситуации, поскольку они чрезмерно оптимизированы.