Очень простая карта сайта может быть файлом с именем
sitemap.txt
http://website.com/index.php
http://website.com/about.php
http://website.com/blog.php
Если вам нужно «почистить» собственный сайт для всех своих ссылок, возможно, вы неправильно настроили свой сайт: (
В большинстве языков вы можете попробовать итерацию файла / направления, если вы используете базу данных, это будет еще проще, поскольку вы можете просто воспроизвести все ссылки сразу, слегка изменив способ создания URL для вывода карты сайта. .txt (или если у вас более 50/100 URL-адресов, вы можете сгенерировать XML)
Если вам нужна помощь в создании файлового итератора, возможно, вы захотите дать больше информации о том, какой язык подойдет вам лучше всего, так как приличное решение PHP может вообще не помочь, если вы все пишете на python.