алгоритм HBOS может занимать достаточно много памяти, и необходимая память увеличивается с увеличением количества используемых атрибутов.Поэтому, во-первых, может помочь уменьшение количества атрибутов.
Но я не смог воспроизвести вашу ошибку.Возможно, вам следует уменьшить максимальный объем памяти, используемый RapidMiner (в разделе Настройки -> Настройки -> Система ).JVM всегда требует незначительных накладных расходов, поэтому работа RapidMiner с максимальной памятью 30 ГБ должна быть безопасной.