Вот другой подход.
Попробуйте удалить кластер из программы, которую вы запускаете.Когда вы закончите вычисления, позвольте вашей программе вызвать саму команду удаления кластера.
print("Try to delete cluster %s " % job_args['cluster_name'] )
result = subprocess.call(['gcloud',
'dataproc',
'clusters',
'delete',
job_args['cluster_name'],
'--quiet',
'--async'])
print("Sent command result: %s" % str(result))