Вы можете использовать метод KillAllProcesses.
add-type -AssemblyName "Microsoft.SqlServer.Smo, Version=10.0.0.0, Culture=neutral, PublicKeyToken=89845dcd8080cc91"
$serverObject = New-Object -TypeName Microsoft.SqlServer.Management.Smo.Server -argumentList 'YourServerNameHere'
$serverObject.KillAllProcesses('YourDatabaseNameHere')
Если вы хотите проверить, вы можете использовать метод GetActiveDBConnectionCount. Но вы можете подождать несколько секунд для отката и тому подобное.
$serverObject.GetActiveDBConnectionCount('YourDatabaseNameHere')