Для VS 2005, я полагаю, вы можете использовать метод ClearToolProperty в VCConfiguration. Следующий код должен выполнить это для CallingConvention (это C #, но я уверен, что нечто подобное работает для VB):
cfg.ClearToolProperty( toolCompiler, "CallingConvention" );
Это будет иметь тот же эффект, что и вход в GUI и выбор "<inherit from parent or project defaults>"
для этой опции.
К сожалению, это кажется устаревшим в VS 2010, и я не уверен, каков новый поддерживаемый метод.