Для использования пользовательского образа docker с Azure Databricks
Предварительные требования:
- Databricks Runtime 6.1 или более поздней версии . Если вы ранее использовали Databricks Container Services, вам необходимо обновить базовые образы. См. Последние изображения в https://github.com/databricks/containers с тегами 6.x.
- В вашем рабочем пространстве Azure Databricks должны быть включены службы контейнеров Databricks.
Чтобы используйте настраиваемые контейнеры в кластерах, администратор рабочего пространства должен включить службы контейнеров Databricks следующим образом:
- Go Консоль администратора.
- Щелкните вкладку «Дополнительно».
- Нажмите кнопку Включить рядом с Контейнерными службами.
- Обновить sh страницу.
- Your machine must be running a recent Docker daemon (one
that is tested and works with Client/Server Version 18.03.0-ce) and
the docker command must be available on your PATH.
Step 1: Build your base
There are several minimal requirements for Azure Databricks to launch a cluster successfully.
Step 2: Push your base image
Push your custom base image to a Docker registry. This process has been tested with Docker Hub and Azure Container Registry (ACR). Docker registries that support no auth or basic auth are expected to work.
Step 3: Launch your cluster
You can launch your cluster using the UI or the API.
Reference: Azure Databricks - настроить контейнеры с помощью Databricks Container Services