???
Вы знаете, что спрашиваете?
Я хочу завершить работу SQLServer, который открывает окно.
SQL-сервер не открывает окно, он является службой Windows и может управляться API-интерфейсом службы Windows, как и любая другая установленная служба.
Отображаемое вами окно - SqlBase, которое не является SqlServer (продукт от Microsoft, с товарным знаком).
В этом случае вы можете попытаться отправлять только сообщения Windows. Кажется, isntall не всегда запускал службу Windows (что также возможно, простой поиск в Google показывает это), так что, возможно, вы ограничены только этим. Согласно http://support.unify.com/Docs/SQLBase/Books/dba10/dba_windows_service.htm, это позволит вам также отключить его через API служб.
Но тогда - если это не вариант, отправка оконных сообщений должна работать, имитируя действия в меню.