В Mac OS X 10.5 упомянутые вами API устарели, и вам следует прочитать Техническую записку TN2223.
В любом случае, предполагая, что вы получаете буферы линейных данных выборки PCM в 32-битном формате с плавающей запятой, вам просто нужно написать цикл for, который определяет fabs (y) каждой выборки, а затем принимает максимумвсе эти ценности.Затем вы можете сохранить это значение или преобразовать его в децибелы.