Мне пришлось создать приложение с разрешениями Microsoft-Graph-Api, подключить pnp онлайн с учетными данными приложения, затем удалить объединенную группу, подключиться с обычными учетными данными и затем удалить сайт:
Connect-PnPOnline -AppId AppID -AppSecret AppSecret -AADDomain Domain
Connect-PnPOnline -Url $siteUrl -Credentials $cred
Remove-PnPUnifiedGroup -Identity Title
Remove-PnPTenantSite Url -Force