Да. Вам нужно достаточно места на жестком диске, чтобы вместить весь граф на всех узлах кластера, и никак не обойтись.
Если вы вместо этого обращаетесь к ОЗУ, а не к месту на жестком диске, то нет необходимости иметь все БД в памяти (определяется настройкой pagecache в neo4j.conf), но это будет означать, что вы ударил диск по всем промахам.
Вот секция конфигурации памяти в документации для подробностей.