Начните здесь.
Как вы правильно заметили, сжатие голоса отличается от обычного сжатия звука. Вы найдете много кодеков, предназначенных для приложений телефонии, от PCM и ADPCM до более поздних кодировок на основе пакетов, таких как CELP, используемых в сотовых сетях GSM.
Тем не менее, голосовое кодирование VOIP немного отличается от кодирования из-за используемого носителя. Вы можете найти хорошую бесплатную библиотеку (с неограниченным и открытым исходным кодом (BSD)) для кодирования / декодирования речи в программной библиотеке Speex .
Опять же, то, что вы выберете, зависит от речи, которую вы кодируете, и среды передачи. Также обратите внимание, что во многих библиотеках есть несколько алгоритмов, которые они могут использовать в зависимости от обстоятельств, а некоторые даже переключаются на лету в зависимости от состояния звука и сети.
Чтобы получить больше помощи, сузьте свой вопрос.
-Adam