Я полагаю, что pip install docker-py
устанавливает библиотеку глобально или устанавливает всю библиотеку.
Принимая во внимание, что pip install molecule[docker]
либо устанавливает только необходимые биты для молекулы, либо устанавливает ее специально в месте расположения молекулы.
Я больше склонен полагать, что это первый вариант - он экономит место и ресурсы, устанавливая только то, что необходимо. Но это только мое предположение.