Я довольно плохо знаком с веб-скребком.Я пытаюсь написать что-то на python с селеном, который будет автоматически входить на сайт и нажимать несколько вариантов из выпадающего меню.Когда все эти параметры будут установлены, будет нажата кнопка, а затем появится новая страница с несколькими ссылками.Здесь я сталкиваюсь с проблемами.Я пытаюсь щелкнуть все ссылки, но у всех ссылок есть эта структура
<a href="WebsiteName.asp?qt=1&qa=0&ben=1&tpt=0&cl=Something&gl=1&life=1&smo=1">Export</a>
, где только 'life = 1' и 'smo = 1' могут измениться на что-то другое в приведенном выше HTML.
Большинство других проблем, с которыми я здесь столкнулся, имеют тенденцию иметь ссылки на класс или что-то подобное, что делает нажатие на эти ссылки более удобным.
Код ниже - это то, что я имею до сих пор.
import selenium,time
import os
from selenium import webdriver
from selenium.webdriver.common.keys import Keys
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from bs4 import BeautifulSoup, SoupStrainer
import requests
#credentials
usernameStr = 'SomeUsername'
passwordStr = 'SomePassword'
browser = webdriver.Firefox(executable_path = r'C:\Users\Name\Downloads\geckodriver-v0.24.0-win64\geckodriver.exe')
url = 'http://somewebsite.com/something/'
browser.get(url)
username = browser.find_element_by_id('username')
username.send_keys(usernameStr)
password = browser.find_element_by_id('password')
password.send_keys(passwordStr)
loginInButton = browser.find_element_by_id("login")
loginInButton.click()
browser.find_element_by_xpath("//*[@id='LifeType']").send_keys("Dual")
browser.find_element_by_id("btnRefresh").click()
browser.find_element_by_id("btnExport").click()
other_url = 'http://somewebsite.com/something/exportToExcelChoice.asp?qt=1&qa=0&ben=1&tpt=0&gl=1&cl=CAESFFHIILNI'
ниже, где я сталкиваюсь с проблемами
page = requests.get(other_url)
data = page.text
soup = BeautifulSoup(data, features="html.parser")
for link in soup.find_all('a'):
link.get('href')
browser.find_element_by_link_text("Export").click()
С Beautiful Soup я могу легко распечатать необходимые ссылки, но я уверен, что это необходимо, поскольку яне могу нажать на ссылки.Я все еще пытаюсь разобраться с этим.
PS Я знаю, что это не чисто веб-просмотр, поскольку все, что я делаю, это нажимаю кнопки с конечной целью поместить все в файл CSV.
HTML:
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.1//EN" "http://www.w3.org/TR/xhtml11/DTD/xhtml11.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
<head id="Head1">
<title>
Quote
</title>
<link href="StyleSheet.css" rel="stylesheet" type="text/css" />
<link rel="StyleSheet" type="text/css" href="/include/arikibo.css" />
<STYLE type="text/css">
td {
font-size: 14px
}
</STYLE>
</head>
<body>
<span STYLE="font-family: Arial, Helvetica, Sans Serif; font-size:20px">
<table cellpadding="3" cellspacing="0" border="0" >
<tr>
<td colspan="5">Please select the type of csv file you wish to generate<br><br>
<b>Please be patient as this may take a few moments!</b><br><br></td>
</tr>
<tr>
<td>Male s</td><td><a href="Name.asp?qt=1&qa=0&ben=1&tpt=0&cl=CAESFFHIILNI&gl=1&life=1&smo=1">Export</a></td>
<td> </td>
<td>Male s</td><td><a href="Name.asp?qt=1&qa=0&ben=1&tpt=0&cl=CAESFFHIILNI&gl=1&life=1&smo=2">Export</a></td>
</tr>
<tr>
<td>Female Non-s</td><td><a href="Name.asp?qt=1&qa=0&ben=1&tpt=0&cl=CAESFFHIILNI&gl=1&life=2&smo=1">Export</a></td>
<td> </td>
<td>Female s</td><td><a href="Name.asp?qt=1&qa=0&ben=1&tpt=0&cl=CAESFFHIILNI&gl=1&life=2&smo=2">Export</a></td>
</tr>
<tr>
<td>Joint Non-s</td><td><a href="Name.asp?qt=1&qa=0&ben=1&tpt=0&cl=CAESFFHIILNI&gl=1&life=3&smo=1">Export</a></td>
<td> </td>
<td>Joint s</td><td><a href="Name.asp?qt=1&qa=0&ben=1&tpt=0&cl=CAESFFHIILNI&gl=1&life=3&smo=2">Export</a></td>
</tr>
<tr>
<td>Dual Non-s</td><td><a href="Name.asp?qt=1&qa=0&ben=1&tpt=0&cl=CAESFFHIILNI&gl=1&life=4&smo=1">Export</a></td>
<td> </td>
<td>Dual s</td><td><a href="Name.asp?qt=1&qa=0&ben=1&tpt=0&cl=CAESFFHIILNI&gl=1&life=4&smo=2">Export</a></td>
</tr>
</table>
</span>
</body>
</html>