Я понял, что это проблема принципала службы в Azure AD. Этот конкретный пользователь, с которым я вошел в систему Databricks, не был участником AD и имел только роль Contributer в службе Databricks and Keyvault. Я не смог найти идентификатор объекта по умолчанию в AD для блоков данных, поэтому предположил, что он создает субъект-службу на лету и соединяет блоки данных с Keyvault (я могу ошибаться - он может уже существовать в AD, когда вы включаете провайдер ресурсов Databricks) .
Вход в систему в качестве администратора с правами на создание участников службы решил проблему. После этого вы можете увидеть в хранилище ключей субъект службы БД, используемый для поиска ключа: