Два решения вместе решили мою проблему.
1- Установка категории .playAndRecord вместо .play
try AVAudioSession.sharedInstance().setCategory(.playAndRecord, mode: .default)
2- Настройка количества каналов от 1 до 2 в настройках записи.
[AVFormatIDKey: kAudioFormatAppleLossless,AVEncoderAudioQualityKey: AVAudioQuality.max.rawValue,
AVEncoderBitRateKey: 320000,
AVNumberOfChannelsKey: 2,
AVSampleRateKey: 44100.2] as [String: Any]