Короче говоря: открытие модальной формы - это выполнение блоков в основной форме, пока модальное окно открыто, поэтому ваша основная форма никогда не сможет проверить, открыла ли она какие-либо модальные формы до окончания модальной формы. закрыл . Другими словами, ваш вопрос основан на неправильном понимании того, как работают модальные формы, поэтому его вопрос вообще не имеет значения.
Для чего стоит, можно узнать, есть ли открытые модальные формы:
foreach (Form f in Application.OpenForms)
{
if (f.Modal)
{
// do stuff
}
}