masscan не предоставляет никаких опций для запуска сканирования по доменному имени, вы должны предоставить ему список IP-адресов. Поэтому, если у вас есть список доменных имен в файле, вы можете использовать следующий скрипт для получения IP-адреса всех доменов.
$ cat hosts
github.com
google.com
pentestmonkey.com
Сценарий:
import sys
import socket
read_file = open('hosts','r')
for host in read_file:
print gethostbyname(host.rstrip("\n")) #rstrip for removing new line characters
read_file.close()