Если вам абсолютно необходимо использовать AMF для подачи звука, у вас есть 2 варианта. Во-первых, обернуть MP3 в файл SWF, отправить его обратно в виде ByteArray и использовать метод loadBytes в Loader для его загрузки обратно. Второй вариант - преобразовать его в wav, отправить как ByteArray, а затем проанализировать аудиофайл и передать данные в звук, используя событие sampleData (только Flash Player 10). Вероятно, я бы порекомендовал первый вариант, так как он намного проще и быстрее, чем второй, но оба варианта не особенно просты.
Если бы мне пришлось проходить аутентификацию через AMF для загрузки звука, я бы возвращал сессионный cookie-файл какого-либо типа и настраивал простой PHP-сервис, который бы обслуживал MP3-файлы с соответствующим сессионным cookie-файлом.