Попробуйте указать числовой формат:
string.Format(new CultureInfo("en-US"), "{0:n}", myNumbers)
Когда я запускаю следующий код на своем компьютере с Windows 7 на американском английском, я получаю идентичные результаты.Какой формат вы ожидаете?
Console.WriteLine(String.Format(new CultureInfo("ar-SA"), "{0:n}", 123456789));
Console.WriteLine(String.Format(new CultureInfo("en-US"), "{0:n}", 123456789));
123 456 789,00
123 456 789,00