Есть ли способ использовать API-интерфейс Web Audio для сэмплирования звука быстрее, чем в режиме реального времени?

Question

Я играю с API Web Audio и пытаюсь найти способ импортировать mp3 (поэтому это только в Chrome) и генерировать его форму волны на холсте. Я могу сделать это в режиме реального времени, но моя цель - сделать это быстрее, чем в реальном времени.

Все примеры, которые мне удалось найти, включают чтение данных о частоте из объекта анализатора в функции, связанной с событием onaudioprocess:

processor = context.createJavascriptNode(2048,1,1);
processor.onaudioprocess = processAudio;
...
function processAudio{
    var freqByteData = new Uint8Array(analyser.frequencyBinCount);
    analyser.getByteFrequencyData(freqByteData);
    //calculate magnitude & render to canvas
}

Похоже, однако, что analyser.frequencyBinCount заполняется только во время воспроизведения звука (что-то о заполнении буфера).

То, что я хочу, - это возможность вручную / программно пройти файл как можно быстрее, чтобы сгенерировать изображение холста.

То, что я получил до сих пор, это:

$("#files").on('change',function(e){
    var FileList = e.target.files,
        Reader = new FileReader();

    var File = FileList[0];

    Reader.onload = (function(theFile){
        return function(e){
            context.decodeAudioData(e.target.result,function(buffer){
                source.buffer = buffer;
                source.connect(analyser);
                analyser.connect(jsNode);

                var freqData = new Uint8Array(buffer.getChannelData(0));

                console.dir(analyser);
                console.dir(jsNode);

                jsNode.connect(context.destination);
                //source.noteOn(0);
            });
        };
    })(File);

    Reader.readAsArrayBuffer(File);
});

Но getChannelData () всегда возвращает пустой типизированный массив.

Любое понимание ценится - даже если оказывается, что это невозможно. Я думаю, что я единственный, кто в Интернете не хочет делать вещи в режиме реального времени.

Спасибо.

Answer 1

Существует действительно потрясающий автономный режим API Web Audio, который позволяет предварительно обрабатывать весь файл через аудиоконтент и затем что-то делать с результатом:

var context = new webkitOfflineAudioContext();

var source = context.createBufferSource();
source.buffer = buffer;
source.connect(context.destination);
source.noteOn(0);

context.oncomplete = function(e) {
  var audioBuffer = e.renderedBuffer;
};

context.startRendering();

Таким образом, установка выглядит точно так же, как в режиме обработки в реальном времени, за исключением того, что вы настроили обратный вызов oncomplete и вызов startRendering(). То, что вы получите в e.redneredBuffer, это AudioBuffer.

Answer 2

Я получил это для работы с использованием OfflineAudioContext с использованием следующего кода.Полный пример здесь показывает, как использовать его для вычисления величин БПФ для линейного ЛЧМ.Если у вас есть концепция соединения узлов, вы можете делать с ней что угодно в автономном режиме.

function fsin(freq, phase, t) {
  return Math.sin(2 * Math.PI * freq * t + phase)
}

function linearChirp(startFreq, endFreq, duration, sampleRate) {
  if (duration === undefined) {
    duration = 1; // seconds
  }
  if (sampleRate === undefined) {
    sampleRate = 44100; // per second
  }
  var numSamples = Math.floor(duration * sampleRate);
  var chirp = new Array(numSamples);
  var df = (endFreq - startFreq) / numSamples;
  for (var i = 0; i < numSamples; i++) {
    chirp[i] = fsin(startFreq + df * i, 0, i / sampleRate);
  }
  return chirp;
}

function AnalyzeWithFFT() {
  var numChannels = 1; // mono
  var duration = 1; // seconds
  var sampleRate = 44100; // Any value in [22050, 96000] is allowed
  var chirp = linearChirp(10000, 20000, duration, sampleRate);
  var numSamples = chirp.length;

  // Now we create the offline context to render this with.
  var ctx = new OfflineAudioContext(numChannels, numSamples, sampleRate);

  // Our example wires up an analyzer node in between source and destination.
  // You may or may not want to do that, but if you can follow how things are
  // connected, it will at least give you an idea of what is possible.
  //
  // This is what computes the spectrum (FFT) information for us.
  var analyser = ctx.createAnalyser();

  // There are abundant examples of how to get audio from a URL or the
  // microphone. This one shows you how to create it programmatically (we'll
  // use the chirp array above).
  var source = ctx.createBufferSource();
  var chirpBuffer = ctx.createBuffer(numChannels, numSamples, sampleRate);
  var data = chirpBuffer.getChannelData(0); // first and only channel
  for (var i = 0; i < numSamples; i++) {
    data[i] = 128 + Math.floor(chirp[i] * 127); // quantize to [0,256)
  }
  source.buffer = chirpBuffer;

  // Now we wire things up: source (data) -> analyser -> offline destination.
  source.connect(analyser);
  analyser.connect(ctx.destination);

  // When the audio buffer has been processed, this will be called.
  ctx.oncomplete = function(event) {
    console.log("audio processed");
    // To get the spectrum data (e.g., if you want to plot it), you use this.
    var frequencyBins = new Uint8Array(analyser.frequencyBinCount);
    console.log(analyser.getByteFrequencyData(frequencyBins);
    // You can also get the result of any filtering or any other stage here:
    console.log(event.renderedBuffer);
  };

  // Everything is now wired up - start the source so that it produces a
  // signal, and tell the context to start rendering.
  //
  // oncomplete above will be called when it is done.
  source.start();
  ctx.startRendering();
}