Внутренне Octave обрабатывает как двойной скаляр, так и скаляр с плавающей точкой, а также матрицы с плавающей точкой или двойную. octave использует шаблоны для создания экземпляра скалярного типа, поэтому octave может эффективно обрабатывать оба типа.
Но, похоже, ваша проблема в том, какой формат данных использовать при обмене данными с Octave с использованием файлов.
Формат данных октав по умолчанию для сохранения в двоичном формате, например значения с плавающей запятой двойной точности. Но Octave может сохранять в формате с плавающей запятой, обрезая данные.
Octave также можно сохранять в формате HDF5. Все поддерживаемые форматы перечислены здесь .
Сериализация двоичных объектов Java, с другой стороны, немного сложнее. Это потому, что Java поддерживает рефлексию и может автоматически сериализовать и создавать экземпляры объектов, но, по моему опыту, написанный файл несовместим между версиями JVM.