Насколько я знаю, текстовый архив Boost сериализации использует пользовательское форматирование.
Например, он помещает номер версии архива сериализации в вывод.Таким образом, вам придется фильтровать такие данные с помощью Java
Даже если вы использовали бинарный архив boost, вы не смогли бы десериализовать его с помощью Java.
Таким образом, ответ на ваш вопрос - механизм сериализации boost, а Java не совместимый.
Попробуйте использовать JSON в качестве формата сериализации, если вам нужно использовать текстовую связь, которая облегчает жизнь.