Обратимые STFT и ISTFT в Python

Question

Существует ли какая-либо универсальная форма кратковременного преобразования Фурье с соответствующим обратным преобразованием, встроенным в SciPy или NumPy или что-то еще?

В matplotlib есть функция pyplot specgram, которая вызывает ax.specgram(), которая вызывает mlab.specgram(), которая вызывает _spectral_helper():

#The checks for if y is x are so that we can use the same function to
#implement the core of psd(), csd(), and spectrogram() without doing
#extra calculations.  We return the unaveraged Pxy, freqs, and t.

но

Это вспомогательная функция, которая реализует общность между 204 #psd, csd и спектрограмма. это НЕ предназначен для использования вне mlab

Я не уверен, что это можно использовать для выполнения STFT и ISTFT. Есть ли что-нибудь еще, или я должен перевести что-то вроде эти функции MATLAB ?

Я знаю, как написать свою собственную специальную реализацию; Я просто ищу что-то полнофункциональное, которое может обрабатывать различные функции управления окнами (но имеет нормальное значение по умолчанию), полностью обратимо с окнами COLA (istft(stft(x))==x), протестировано несколькими людьми, без каких-либо ошибок, хорошо обрабатывает концы и заполнение нулями, быстрая реализация RFFT для реального ввода и т. д.

Answer 1

Вот мой код Python, упрощенный для этого ответа:

import scipy, pylab

def stft(x, fs, framesz, hop):
    framesamp = int(framesz*fs)
    hopsamp = int(hop*fs)
    w = scipy.hanning(framesamp)
    X = scipy.array([scipy.fft(w*x[i:i+framesamp]) 
                     for i in range(0, len(x)-framesamp, hopsamp)])
    return X

def istft(X, fs, T, hop):
    x = scipy.zeros(T*fs)
    framesamp = X.shape[1]
    hopsamp = int(hop*fs)
    for n,i in enumerate(range(0, len(x)-framesamp, hopsamp)):
        x[i:i+framesamp] += scipy.real(scipy.ifft(X[n]))
    return x

Примечания:

1. Понимание списка - это маленькая хитрость, которую я хотел бы использовать для симуляции блочной обработки сигналов в numpy / scipy. Это как blkproc в Matlab. Вместо цикла for я применяю команду (например, fft) к каждому кадру сигнала внутри понимания списка, а затем scipy.array преобразует его в 2D-массив. Я использую это для создания спектрограмм, хроматограмм, MFCC-грамм и многого другого.
2. В этом примере я использую простой метод наложения и добавления в istft. Чтобы восстановить исходный сигнал, сумма последовательных оконных функций должна быть постоянной, предпочтительно равной единице (1,0). В этом случае я выбрал окно Ханна (или hanning) и перекрытие 50%, которое отлично работает. См. это обсуждение для получения дополнительной информации.
3. Возможно, есть более принципиальные способы вычисления ISTFT. Этот пример в основном предназначен для образования.

Тест:

if __name__ == '__main__':
    f0 = 440         # Compute the STFT of a 440 Hz sinusoid
    fs = 8000        # sampled at 8 kHz
    T = 5            # lasting 5 seconds
    framesz = 0.050  # with a frame size of 50 milliseconds
    hop = 0.025      # and hop size of 25 milliseconds.

    # Create test signal and STFT.
    t = scipy.linspace(0, T, T*fs, endpoint=False)
    x = scipy.sin(2*scipy.pi*f0*t)
    X = stft(x, fs, framesz, hop)

    # Plot the magnitude spectrogram.
    pylab.figure()
    pylab.imshow(scipy.absolute(X.T), origin='lower', aspect='auto',
                 interpolation='nearest')
    pylab.xlabel('Time')
    pylab.ylabel('Frequency')
    pylab.show()

    # Compute the ISTFT.
    xhat = istft(X, fs, T, hop)

    # Plot the input and output signals over 0.1 seconds.
    T1 = int(0.1*fs)

    pylab.figure()
    pylab.plot(t[:T1], x[:T1], t[:T1], xhat[:T1])
    pylab.xlabel('Time (seconds)')

    pylab.figure()
    pylab.plot(t[-T1:], x[-T1:], t[-T1:], xhat[-T1:])
    pylab.xlabel('Time (seconds)')

Answer 2

Вот код STFT, который я использую. STFT + ISTFT здесь дает идеальная реконструкция (даже для первых кадров). Я немного изменил код, приведенный здесь Стивом Тджоа: здесь величина восстановленного сигнала такая же, как у входного сигнала.

import scipy, numpy as np

def stft(x, fftsize=1024, overlap=4):   
    hop = fftsize / overlap
    w = scipy.hanning(fftsize+1)[:-1]      # better reconstruction with this trick +1)[:-1]  
    return np.array([np.fft.rfft(w*x[i:i+fftsize]) for i in range(0, len(x)-fftsize, hop)])

def istft(X, overlap=4):   
    fftsize=(X.shape[1]-1)*2
    hop = fftsize / overlap
    w = scipy.hanning(fftsize+1)[:-1]
    x = scipy.zeros(X.shape[0]*hop)
    wsum = scipy.zeros(X.shape[0]*hop) 
    for n,i in enumerate(range(0, len(x)-fftsize, hop)): 
        x[i:i+fftsize] += scipy.real(np.fft.irfft(X[n])) * w   # overlap-add
        wsum[i:i+fftsize] += w ** 2.
    pos = wsum != 0
    x[pos] /= wsum[pos]
    return x

Answer 3

librosa.core.stft и istft выглядят очень похоже на то, что я искал, хотя в то время их не было:

librosa.core.stft(y, n_fft=2048, hop_length=None, win_length=None, window=None, center=True, dtype=<type 'numpy.complex64'>)

Они точно не инвертируются; концы конические.

Answer 4

Я немного опоздал, но понял, что у Сципи есть встроенная функция istft с 0.19.0

Answer 5

Ни один из приведенных выше ответов не работал хорошо OOTB для меня. Поэтому я модифицировал Стива Тджоа.

import scipy, pylab
import numpy as np

def stft(x, fs, framesz, hop):
    """
     x - signal
     fs - sample rate
     framesz - frame size
     hop - hop size (frame size = overlap + hop size)
    """
    framesamp = int(framesz*fs)
    hopsamp = int(hop*fs)
    w = scipy.hamming(framesamp)
    X = scipy.array([scipy.fft(w*x[i:i+framesamp]) 
                     for i in range(0, len(x)-framesamp, hopsamp)])
    return X

def istft(X, fs, T, hop):
    """ T - signal length """
    length = T*fs
    x = scipy.zeros(T*fs)
    framesamp = X.shape[1]
    hopsamp = int(hop*fs)
    for n,i in enumerate(range(0, len(x)-framesamp, hopsamp)):
        x[i:i+framesamp] += scipy.real(scipy.ifft(X[n]))
    # calculate the inverse envelope to scale results at the ends.
    env = scipy.zeros(T*fs)
    w = scipy.hamming(framesamp)
    for i in range(0, len(x)-framesamp, hopsamp):
        env[i:i+framesamp] += w
    env[-(length%hopsamp):] += w[-(length%hopsamp):]
    env = np.maximum(env, .01)
    return x/env # right side is still a little messed up...

Answer 6

Найден другой STFT, но нет соответствующей обратной функции:

http://code.google.com/p/pytfd/source/browse/trunk/pytfd/stft.py

def stft(x, w, L=None):
    ...
    return X_stft

• w - это оконная функция в виде массива
• L - перекрытие в образцах

Answer 7

Исправлена ​​версия ответа Басжа.

import scipy, numpy as np
import matplotlib.pyplot as plt

def stft(x, fftsize=1024, overlap=4):
    hop=fftsize//overlap
    w = scipy.hanning(fftsize+1)[:-1]      # better reconstruction with this trick +1)[:-1]  
    return np.vstack([np.fft.rfft(w*x[i:i+fftsize]) for i in range(0, len(x)-fftsize, hop)])

def istft(X, overlap=4):   
    fftsize=(X.shape[1]-1)*2
    hop=fftsize//overlap
    w=scipy.hanning(fftsize+1)[:-1]
    rcs=int(np.ceil(float(X.shape[0])/float(overlap)))*fftsize
    print(rcs)
    x=np.zeros(rcs)
    wsum=np.zeros(rcs)
    for n,i in zip(X,range(0,len(X)*hop,hop)): 
        l=len(x[i:i+fftsize])
        x[i:i+fftsize] += np.fft.irfft(n).real[:l]   # overlap-add
        wsum[i:i+fftsize] += w[:l]
    pos = wsum != 0
    x[pos] /= wsum[pos]
    return x

a=np.random.random((65536))
b=istft(stft(a))
plt.plot(range(len(a)),a,range(len(b)),b)
plt.show()

Answer 8

Я думаю, что у scipy.signal есть то, что вы ищете. Он имеет разумные значения по умолчанию, поддерживает несколько типов окон и т.д ...

http://docs.scipy.org/doc/scipy-0.17.0/reference/generated/scipy.signal.spectrogram.html

from scipy.signal import spectrogram
freq, time, Spec = spectrogram(signal)

Answer 9

Если у вас есть доступ к двоичной библиотеке C, которая делает то, что вы хотите, то используйте http://code.google.com/p/ctypesgen/ для создания интерфейса Python для этой библиотеки.

Answer 10

Я также нашел это на GitHub, но, похоже, он работает на конвейерах вместо обычных массивов:

http://github.com/ronw/frontend/blob/master/basic.py#LID281

def STFT(nfft, nwin=None, nhop=None, winfun=np.hanning):
    ...
    return dataprocessor.Pipeline(Framer(nwin, nhop), Window(winfun),
                                  RFFT(nfft))


def ISTFT(nfft, nwin=None, nhop=None, winfun=np.hanning):
    ...
    return dataprocessor.Pipeline(IRFFT(nfft), Window(winfun),
                                  OverlapAdd(nwin, nhop))