NSOperationQueue, похоже, не имеет никакого способа указать приоритет потока, и хотя в целом NSOperationQueue, похоже, знает о том, что происходит в системе, и учитывает это, не задокументировано, что он будет уважать CA резьб.
Если вам нужно постоянно выполнять фоновые вычисления, лучше всего запустить собственный поток и эмпирически установить приоритет ниже, чем CA, однако это также не задокументировано и может измениться в разных версиях системы.
Другой вариант может заключаться в переносе CA-анимации с вызовами к вашему собственному коду для приостановки вычисления фона.