Вам нужно будет предоставить некоторые подробности о типе сигнала, который вы хотите.
Всегда есть определенные компромиссы в зависимости от типа используемых вами фильтров. В общем, вам придется, по крайней мере, предоставить нам интересующие вас частоты, насколько резким должно быть обрезание, вычислительные требования и линейность фаз.
В общем, я просто поверну вас к вики-странице фильтров: Выбор фильтров
Как видно на странице, существуют классы фильтров (особенно обратите внимание на модели Чебышева, Баттерворта, Бесселя и Эллиптика), которые пытаются обеспечить определенные характеристики в зависимости от того, что вам нужно. Вы должны также отметить вычислительную сложность каждого типа фильтра.
Лично я ленивый и обычно не вычислительно ограничен, поэтому я просто делаю:
сигнал -> БПФ -> умножить на требуемую частотную характеристику -> IFFT.