В зависимости от того, как ваш код организован в приложении, вы можете включить Mockito или его эквивалент и убедиться, что метод, отвечающий за отображение диалогового окна, никогда не вызывается. Из Mockito API («Убедившись, что взаимодействие никогда не происходило в макете»), вы можете добавить что-то вроде:
//verify that method was never called on a mock
verify(mockOne, never()).add("two");
Другим подходом было бы заменить класс диалога вашей собственной оберткой и проверить, что метод show никогда не вызывается.