Node.js сбой приложения при попытке загрузить большой файл, используя его - PullRequest
3 голосов
/ 16 марта 2020

Я пытаюсь написать программу, которая может конвертировать HTTP URL в торренты. Этот проект работает в основном работает для загрузки ссылки содержат небольшие файлы. Как файл 1-500Mb. Моя проблема в том, что если размер файла больше, чем у приложения, происходит сбой или истечение времени ожидания. Поэтому я хочу знать, как это исправить. Ниже мой код и ссылка на Github.

https://github.com/savadks95/FireBit

var http          = require('http');
var webtorrentify = require('webtorrentify-link');
var fs            = require('fs');
var url           = require("url");
var path          = require("path");
var validUrl      = require('valid-url');
var express       = require('express');
var getUrls       = require('get-urls');
var remote        = require('remote-file-size');
var app           = express();

var downloadLink;
var fileName;
var fileSize;
var server;
var parsed;
var param;
var link;
var port;
port = process.env.PORT || 80;

app.get('/favicon.ico', function(req, res){
console.log('favicon request recived');
});
app.get('*', function(req, res){
    if(req.url==='/'){

      //app.use('/public/html', express.static(path.join(__dirname)));

    fs.readFile('public/html/index.html', function (err, data) {
    res.write(data);  
  });
  }else if (req.url === '/l?thelink='){
    fs.readFile('public/html/emptyRequest.html', function (err, data) {
      res.write(data);
      res.end();
  });
}else{
//---------Reciving Url--------------------
  console.log(req.query.thelink);
  downloadLink=req.query.thelink;
  //-----------------------------------------

  //------------checking for valid url-------
  if (validUrl.isUri(downloadLink)) {
    console.log('Looks like an URL');
    //-----------------------------------------

    //----------Extracting filename-------------
    parsed = url.parse(downloadLink);
    fileName = path.basename(parsed.pathname);
    console.log(path.basename(parsed.pathname));
    //-------------------------------------------

    //----------Finding File size----------------
    remote(downloadLink, function(err, o) {
      fileSize = (o/1024)/1024;
      console.log('size of ' + fileName + ' = ' + fileSize+" MB");  
    //-------------------------------------------
    if (fileSize < 501)
    {
    ///////////////Creating Torrent////////////////////
    webtorrentify(downloadLink)
      .then(function (buffer) {
         console.log('creating the torrent');
         //res.send('what is');
         //-------------------------------------------
         res.setHeader('Content-Type', 'application/x-bittorrent');
         res.setHeader('Content-Disposition', `inline; filename="${fileName}.torrent"`);
         res.setHeader('Cache-Control', 'public, max-age=2592000'); // 30 days
         res.send(buffer);
         console.log(fileName+'.torrent created');
         res.end();
         //-------------------------------------------
      });
    ////////////////////////////////////////////////
    }
    else{
      console.log('More than 500 MB');
      res.send("<h4> More than 500 MB or invalid URL </h4>");
    }
  });
  }
  else {
    console.log('not url');
    fs.readFile('public/html/404.html', function (err, data) {
      res.write(data);
      res.end();
    });

  }
}
});

app.listen(port);

console.log('server up and running', port);

1 Ответ

5 голосов
/ 20 марта 2020

Функции обработки чистых файлов (fs) и больших данных в Node.js обычно не дотягивают до обработки файлов, превышающей 1 ГБ, но только с одним дополнительным пакетом NPM, EventStream, вы можете анализировать массивный набор данных без сбой сервера узла. С пакетом EventStream вы можете загружать файлы размером до 3 ГБ и выше.

Подробная реализация приведена здесь по ссылке ниже. Я хотел бы повторить, что пример реализации, приведенный в приведенной ниже ссылке, решает проблему загрузки большого файла. Ваша способность конвертировать URL-адреса http в торрент-поток, вы, кажется, уже справились с этим очень хорошо.

https://itnext.io/using-node-js-to-read-really-really-large-files-pt-1-d2057fe76b33

А вот пакет NPM для модуль потока событий.

https://www.npmjs.com/package/event-stream

Надеюсь, это поможет.

...