Я думаю, что правильный способ сказать COM-объекту, что у вас есть исключение, это просто вернуть HRESULT.E_FAIL.
Невозможно проверить это прямо сейчас, но я думаю, что если COM-объект находится в другом процессе, все, что вам нужно сделать, это завершить процесс и COM-объект может перестать отвечать, ожидая, пока ваш код вернется из функции обратного вызова. (поскольку ваш процесс уже мертв).