Нет конкретного способа проверить утечки памяти в неуправляемом коде в VS, особенно с точки зрения управляемого хоста. Еще хуже, если у вас нет доступа к неуправляемому коду.
Мое предложение состояло бы в том, чтобы создать группу экземпляров COM-объекта и многократно вызывать его методы, а затем избавляться от объектов. Если использование памяти только увеличивается, возможно, имеется утечка памяти.
Тогда настоящий трюк - найти его! Есть много способов сделать это (слишком много, чтобы перечислять здесь), поэтому я бы предложил быстрый Google для инструментов отладки утечки памяти.