Сценарий, о котором вы говорите, звучит так, как если бы вы тестировали приложение.
Возможно, вы захотите изучить инструменты нагрузочного / стресс-тестирования. LoadRunner - первое, что приходит на ум. Это не "в C #", и я уверен, что это не бесплатно, но это может быть правильный инструмент для работы. Кроме того, вы можете захотеть взглянуть на внедрение ошибок, если вам нужно только увидеть, как ваша программа обрабатывает исключение OutOfMemory.
Точно о чем вы спрашивали, вот статья с приложением, которое использует RAM:
http://msdn.microsoft.com/en-us/magazine/cc163613.aspx