Monix запись в один выходной поток из параллельных задач - PullRequest
Новая
       42

Monix запись в один выходной поток из параллельных задач

0 голосов
/ 20 июня 2019

как мы можем использовать Monix Tasks для записи одного выходного потока из последовательности задач (может выполняться параллельно): например, у меня есть N задач, которые можно запускать параллельно, и я получаю некоторый ответ от HTTP call/server,, и я записываю ответ обратно в файловый поток (так как есть ограничение Ограниченная память), но Я понял, что stream closed error, было интересно, есть ли способ достичь этого с помощью задач Monix или любого другого API 

java.io.IOException: Stream closed

Пример кода: 

 import java.io.{FileOutputStream, OutputStream, OutputStreamWriter}

    import monix.eval.Task
    import monix.execution.ExecutionModel.AlwaysAsyncExecution
    import monix.execution.Scheduler

    import scala.util.Random

    object TaskTest extends App {

      implicit val scheduler = Scheduler(
        AlwaysAsyncExecution
      )
      val list = List(1 to 100)

      val filePath = System.currentTimeMillis() + "_test.txt"
      val outputStreamWriter = new OutputStreamWriter(new FileOutputStream(filePath))
      val futureTask = autoClose(outputStreamWriter) {
        outputStream =>
          val totalCount = SeqOfTasks(outputStream)
          totalCount.map(_.sum)
      }

      futureTask.runToFuture.onComplete {
        case scala.util.Success(value) =>
          println(s"fetched a total of $value")

        case scala.util.Failure(exception) =>

          println("there is some error occurred ")
          println(exception)
      }

//close this stream when all tasks completed.
      def autoClose[A <: AutoCloseable, B](resource: A)(code: A ⇒ B): B = {
        try code(resource)
        finally resource.close()
      }


      def SeqOfTasks(outPutStream: OutputStreamWriter): Task[Seq[Int]] = {

        val list = List(0 to 10: _*)
        Task.wanderUnordered(list)(l => makeHttpCall(outPutStream, l))
      }

      // each taks will fetch some data and write to single out put stream that is shared by other tasks.
      def makeHttpCall(outputStream: OutputStreamWriter, value: Int): Task[Int] = {

        Task {
          val result = getDummyValue(value)
          val bytes = result.mkString("\t") + "\n"
          outputStream.write(bytes)
          //return some value
          result.size
        }
      }

      //return a dummy response for http
      def getDummyValue(n: Int): Seq[Int] = {
        println(s"dummy value : $n")
        Seq.fill(n)(Random.nextInt)
      }

1 Ответ

0 голосов
/ 24 июня 2019

Проблема связана с тем, что Task является Lazy и async, но autoClose не является ни тем, ни другим.

Решение состоит в том, чтобы сделать AutoClose Task-учетом: 

def autoClose[A <: AutoCloseable, B](resource: A)(code: A ⇒ Task[B]): Task[B] = {
    code(resource).guarantee(Task(resource.close()))
  }

Примечание: На это отвечает Олег Пыжцов в Monix Gitter chat

...