Это доступно только в OSX до iOS 7. Если вы посмотрите на AudioQueue.h, вы обнаружите, что он условно доступен только в iOS 7. [примечание: при повторном чтении я вижу, что вы имели в виду OS X, а не iOS, но, надеюсь, следующее кроссплатформенное]
Кроме того, вам нужно включить очередь для time_pitch до установки алгоритма time_pitch, и только спектральный алгоритм поддерживает высоту тона (все они поддерживают скорость)
result = AudioQueueNewOutput(&(pAqData->mDataFormat), aqHandleOutputBuffer, pAqData,
0, kCFRunLoopCommonModes , 0, &(pAqData->mQueue));
// enable time_pitch
UInt32 trueValue = 1;
AudioQueueSetProperty(pAqData->mQueue, kAudioQueueProperty_EnableTimePitch, &trueValue, sizeof(trueValue));
UInt32 timePitchAlgorithm = kAudioQueueTimePitchAlgorithm_Spectral; // supports rate and pitch
AudioQueueSetProperty(pAqData->mQueue, kAudioQueueProperty_TimePitchAlgorithm, &timePitchAlgorithm, sizeof(timePitchAlgorithm));