Импортировать текстовый файл размером 30 ГБ через Интернет в локальную файловую систему, используя несколько подключений к этому плоскому файлу? - PullRequest
3 голосов
/ 17 августа 2011

Допустим, у меня есть простой текстовый файл на сервере.Мне нужно скачать / импортировать / скопировать в мою локальную файловую систему через Интернет.Можно ли каким-либо образом импортировать файл по частям или иметь несколько подключений к самому плоскому текстовому файлу из моей локальной системы, чтобы импорт / копирование / выполнялся быстрее?

С уважением

Ответы [ 2 ]

4 голосов
/ 17 августа 2011

Один из способов сделать это, если поддерживается доступным FTP-сервером, использовать продукт на основе нескольких ftp, который в основном разделяет его, загружает несколько потоков в один и тот же файл. Тем не менее, в конце концов, есть одна суровая реальность, ваша скорость все равно будет составлять только максимум из наименьшего звена на пути. Таким образом, если вы загружаете файл и получаете полную полосу пропускания, скажем, 2 Мбит / с, делая 10 подключений, вы будете получать, скажем, 200 К / с каждое, это не сделает его более быстрым, если что-то не ограничит загрузку для каждого подключения в отдельности.

Конечно, это также не использует java, но, вероятно, есть много вещей, связанных с java multi.

1 голос
/ 17 августа 2011

Самый быстрый способ сделать это, вероятно, написать администратору сайта на этом сервере и попросить, чтобы он отправил вам на жесткий диск необходимые данные за плату.

В противном случае вам нужно будет изучить и купить самую быструю ссылку на Интернет, которую вы можете найти. Учитывая, что у вас есть быстрая ссылка на Интернет, которая позволит вам загружать данные со скоростью X байт в секунду, тогда ваш максимальный теоретический предел составляет X байт в секунду.

Если вы получаете значительно меньше X байт в секунду, возможно, у вас ограниченная скорость либо из-за рассматриваемого сервера, либо из-за любой связи между вами или их сервером.

Если так получилось, что ваш провайдер использует ограничение скорости, то в этом конкретном случае вы могли бы быстрее загружать данные, используя второе соединение и загружая другую часть файла. .

...