У вас проблемы - максимальный объем памяти , который может обрабатывать SSRS2005, составляет 2 ГБ.(Существует хитрость, позволяющая ему обрабатывать 3 ГБ, но это не рекомендуется для производственных серверов.)
SSRS2008 не имеет такого ограничения, поэтому обычная реакция в этой ситуации - рекомендовать обновление до 2008 года.
Если ваш большой отчет не будет работать на компьютере с 2 ГБ свободного места, не имеет значения, сколько ОЗУ (или других ресурсов) вы поместите на свой сервер - отчет все равно не будет работать.
Ваш единственный вариант (с учетом указанных выше ограничений) - разбить отчет на более мелкие части и запускать их по одному.