Spark - Java + SWIG + C - выделение памяти - PullRequest
0 голосов
/ 13 июля 2020

Я запускаю программу Java, которая взаимодействует с библиотекой C / C ++ (LightGBM) через SWIG.

Мне сложно определить, когда malloc встречается в C сторона, какой тип памяти соответствует:

  1. spark.executor.memory?
  2. spark.executor.memoryOverhead?
  3. не контролируется настройками исполнителя и напрямую использует любые оставшаяся машинная память?

Я ожидал, что это будет номер 2, но я выделил несколько довольно больших наборов данных в C через mallo c, что на go превышает предел memoryOverhead и работа все еще работала.

Спасибо

...