Я никогда не делал этого, но в качестве первого подхода я бы открыл (откройте как ввод, а не вывод) фальшивый поток записи на устройстве линейного воспроизведения мастер-окон (вместо обычного использования открытия микрофона или линейного устройства для записи).
Затем я бы отслеживал захваченные кадры.Если в течение определенного времени значения превышают небольшой порог, я бы сделал вывод, что звук есть.