Причина ошибки была довольно тривиальной, которую я выяснил, используя инструмент nmap
sudo nmap -p 27017 IP_of_the_shard_node
Я выяснил, что порт 27017 был закрыт для соединений. Я понял, что служба mongod не работает,Поэтому простая
sudo systemctl start mongod
на узле шарда решит проблему.