И MS SQL Server 2008 R2, и ORACLE 11g должны без проблем справиться с этим. С точки зрения расширяемости, я бы порекомендовал Oracle 11g в среде RAC. Вы также можете выполнять кластеризацию Microsoft с MS SQL Server 2008 R2, но по моему опыту Oracle RAC является более надежным решением.
В то же время приложения, которые вы планируете использовать с базой данных, также должны играть роль в принятии решения. Если вы будете использовать MS SharePoint или другие приложения MS, лучшим решением будет MS SQL Server 2008 R2.
Что касается PostgreSQL, у меня нет особого опыта работы с ним, но я слышал кошмарные истории от людей, которые использовали его в корпоративной среде и в крупных бизнес-ситуациях. Из того, что я знаю, это не совсем подходит для масштабируемости. Лично я думаю, что MySQL будет лучшим решением, чем PostgreSQL, если вы ищете решение с открытым исходным кодом, но имейте в виду, что SQL-решения с открытым исходным кодом не будут самыми легкими, когда речь заходит о масштабируемости или среде высокой доступности, если это ваша конечная цель.