Если это простые mp3-потоки в этих файлах (без тегов id3) и их битрейт и другие характеристики mp3 совпадают, вы можете сделать так же просто, как добавить все файлы в один результирующий mp3-файл.
Это значит открывать InputStream исходных файлов один за другим и записывать их в один FileOutputStream.
Я проверил это с 2 файлами mp3, и это прекрасно работает.