См. http://support.microsoft.com/kb/176468 для подробной информации о причине этого. В частности, обратите внимание на рекомендацию о том, что код в элементе управления ActiveX должен иметь:
If App.NonModalAllowed Then
frmModeless.Show vbModeless
Else
frmModeless.Show vbModal
End If
Если это сторонний элемент управления, для которого у вас нет источника, насколько я могу судить, простого обходного пути нет. Единственный обходной путь, который я нашел, - это обернуть нарушающий элемент управления в другой элемент управления, созданный с помощью VB6, убедившись, что этот элемент управления скомпилирован в ActiveX .exe, а не ActiveX .dll.