Этого нельзя добиться с помощью стандартного модема и последовательного порта. Лучшее, что вы можете сделать - это перерыв. Во время звонка модем просто высматривает сигнал несущей перед началом любой связи. Кольца не считаются.
Если вам абсолютно необходимо это сделать, это будет включать в себя извлечение звука из модема и его обработку для получения количества звонков (нетривиально, в зависимости от телефонной сети и т. Д., Звонки значительно различаются и могут быть перепутаны с сигналами удержания).