Вы можете использовать #main a
, чтобы получить все URL:
urls = [url["href"] for url in soup.select("#main a")]
Список словарей с ключом в качестве текста и значением в качестве URL:
urls = []
for url in soup.select("#main a"):
print(url.text, url["href"])
urls.append({url.text: url["href"]})