Как оптимизировать метод ожидания с использованием VBA и Chromedriver - PullRequest
0 голосов
/ 29 ноября 2018

на этой домашней странице "http://www.kpia.or.kr/index.php/year_sugub"

Если вы проверите html, есть 6 идентификаторов от li1 до li6. Первое, что я заметил после первого использования chromedriver, было то, что метод ожидания был неэффективенПоэтому я искал различные способы оптимизации ожидания после нажатия на Интернет для использования на этой домашней странице. Например, я применил следующие три вида кодирования.

ex1) Application.Wait Now + TimeSerial(0, 0, 5)

ex2) .FindElementById ("li2", timeout: = 10000). Нажмите

ex3) При возникновении ошибки "Do 'DoEvents" Resume Next "Set ele =.FindElementById ("li2") 'При ошибке GoTo 0' Если Timer - t = 10, затем Exit Do '<== Чтобы избежать бесконечного цикла' Цикл Пока ele Nothing </p>

Однако мы не смогли окончательно найтиспособ оптимизации метода ожидания без использования Application.Wait Now + TimeSerial (0, 0, 5). Этот метод загружается не полностью после нажатия кнопки li2, но иногда выполняются дополнительные задачи.

Итак, я подумал оформальная логика кодированиячто я мог бы иногда использовать, чтобы делать подобное кодирование в будущем, и я придумал следующую логику.Например, в li2 значение этилена всегда является фиксированным значением с результирующим значением, поэтому, если вы щелкнете по li2 и затем найдете значение «SM», данные будут загружены в лист.Далее, «LDPE» в li3 - это способ вставить данные в лист после завершения загрузки.Так что я пишу с этой идеей, и я не могу устранить ошибку, пока я работаю над VBA.

Dim d As WebDriver, ws As Worksheet, clipboard As Object
Set d = New ChromeDriver
Set ws = ThisWorkbook.Worksheets("Sheet3")
Set clipboard = GetObject("New:{1C3B4210-F441-11CE-B9EA-00AA006B1A69}")
Const URL = "http://www.kpia.or.kr/index.php/year_sugub"
Dim html As HTMLDocument

Set html = New HTMLDocument

With d
    .AddArgument "--headless"
    .Start "Chrome"
    .get URL, Raise:=False
rep:
    .FindElementById("li2", timeout:=10000).Click

    Dim Posts As WebElements
    Dim elem As WebElements
    Dim a1 As Integer

    For Each Posts In .FindElementsByClass("bbs")
        For Each elem In Posts.FindElementsByCss("td")
            If Not elem.Text = "SM" Is Nothing Then

html.body.innerHTML = d.PageSource

Dim tarTable As HTMLTable
Dim hTable As HTMLTable

For Each tarTable In html.getElementsByTagName("table")
    If InStr(tarTable.className, "bbs") <> 0 Then
    Set hTable = tarTable
    End If
Next

    clipboard.SetText .FindElementById("table_body").Attribute("outerText")
    clipboard.PutInClipboard

    else
    goto rep
    end if
    .Quit

End With

Если он находит значение, соответствующее значению SM, он предполагает, что загрузка завершенаи приступает к передаче связанных данных в буфер обмена.Если значение SM не найдено, используйте GOTO для использования .FindElementById (тайм-аут "li2": = 10000).Я думал, что смогу это исправить, создав цикл, который перезапускается с .Click.

Я новичок в процессе экономии времени и усердного обучения во время чтения, поэтому я был бы очень признателен, если бы вы могли дать мне большесправка.

enter image description here

1 Ответ

0 голосов
/ 29 ноября 2018

Я бы вообще не использовал браузер, не выполнял бы запрос POST XMLHTTP и анализировал ответ XML для записи на лист.Делайте это в цикле над кодами gubun, которые охватывают каждую вкладку, т.е. gubun = от 1 до 6.

Option Explicit

Public Sub GetTable()
    Dim sResponse As String, body As String, columnToWriteOut As Long, gubunNumber As Long
    Dim xmlDoc As Object

    Set xmlDoc = CreateObject("MSXML2.DOMDocument") 'New MSXML2.DOMDocument60
    columnToWriteOut = 1

    With CreateObject("MSXML2.XMLHTTP")

        For gubunNumber = 1 To 6

            body = "gubun=" & CStr(gubunNumber)
            .Open "POST", "http://www.kpia.or.kr/index.php/year_sugub/get_year_sugub", False
            .setRequestHeader "If-Modified-Since", "Sat, 1 Jan 2000 00:00:00 GMT"
            .setRequestHeader "User-Agent", "Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36"
            .setRequestHeader "Content-Type", "application/x-www-form-urlencoded; charset=UTF-8"
            .setRequestHeader "Content-Length", Len(body)
            .send body
            sResponse = .responseText

            With xmlDoc
                .validateOnParse = True
                .setProperty "SelectionLanguage", "XPath"
                .async = False
                If Not .LoadXML(sResponse) Then
                    Err.Raise .parseError.ErrorCode, , .parseError.reason
                End If
            End With

            Dim startYear As Long, endYear As Long, numColumns As Long, numRows As Long, data()
            Dim node As Object, nextNode As Object, headers(), i As Long

            startYear = xmlDoc.SelectSingleNode("//rec/sy").Text
            endYear = xmlDoc.SelectSingleNode("//rec/ey").Text
            numRows = xmlDoc.SelectNodes("//product").Length

            ReDim headers(1 To endYear - startYear + 3)
            numColumns = UBound(headers)
            ReDim data(1 To numRows, 1 To numColumns)
            headers(1) = "Product": headers(2) = "Category"

            For i = 1 To endYear - startYear + 1
                headers(i + 2) = startYear + i - 1
            Next

            Dim r As Long, c As Long, rowCounter As Long

            rowCounter = 0
            For Each node In xmlDoc.SelectNodes("//rec")  ' '//rec/*[not(self::sy) and not(self::ey) and not(self::product)]  ?
                c = 1: rowCounter = rowCounter + 1
                For Each nextNode In node.ChildNodes
                    Select Case c
                    Case 3
                        data(rowCounter, 1) = nextNode.Text
                    Case Is > 3
                        data(rowCounter, c - 1) = nextNode.Text
                    End Select

                    Select Case rowCounter Mod 4
                    Case 1
                        data(rowCounter, 2) = "Production (shipment)"
                    Case 2
                        data(rowCounter, 2) = "Export"
                    Case 3
                        data(rowCounter, 2) = "income"
                    Case 0
                        data(rowCounter, 2) = "Domestic demand "
                    End Select
                    c = c + 1
                Next
            Next

            With ThisWorkbook.Worksheets("Sheet1")
                .Cells(1, columnToWriteOut).Resize(1, UBound(headers)) = headers
                .Cells(2, columnToWriteOut).Resize(UBound(data, 1), UBound(data, 2)) = data
            End With
            columnToWriteOut = columnToWriteOut + UBound(headers) + 2
        Next
    End With
End Sub

В качестве альтернативы вы можете зациклить ожидание завершения каждого вызова Ajax:

Option Explicit

Public Sub GetInfo()
    Dim d As WebDriver, ws As Worksheet, clipboard As Object, writeOutColumn As Long
    writeOutColumn = 1
    Const URL = "http://www.kpia.or.kr/index.php/year_sugub"

    Set d = New ChromeDriver
    Set ws = ThisWorkbook.Worksheets("Sheet3")
    Set clipboard = GetObject("New:{1C3B4210-F441-11CE-B9EA-00AA006B1A69}")

    With d
        .Start "Chrome"
        .get URL

        Dim links As Object, i As Long
        Set links = .FindElementsByCss("[href*=action_tab]")

        For i = 1 To links.Count
            If i > 1 Then
                links(i).Click
                Do
                Loop While Not .ExecuteScript("return jQuery.active == 0")
            End If
            Dim table As Object
            Set table = .FindElementByTag("table")
            clipboard.SetText table.Attribute("outerHTML")
            clipboard.PutInClipboard

            ws.Cells(1, writeOutColumn).PasteSpecial
            writeOutColumn = writeOutColumn + table.FindElementByTag("tr").FindElementsByTag("td").Count + 2
            Set table = Nothing
        Next
        .Quit
    End With
End Sub
...