Как получить значения первого столбца в таблице википедии, используя python bs4? - PullRequest
1 голос
/ 11 апреля 2020

Я пытаюсь очистить таблицу данных в Википедии, используя python bs4. Но я застрял с этой проблемой. При получении значений данных мой код не получает первый столбец или нулевой индекс. Я чувствую, что с индексом что-то не так, но не могу понять. Пожалуйста помоги. См.

enter image description here

response_obj = requests.get('https://en.wikipedia.org/wiki/Metro_Manila').text
soup = BeautifulSoup(response_obj,'lxml')
Neighborhoods_MM_Table = soup.find('table', {'class':'wikitable sortable'})

rows = Neighborhoods_MM_Table.select("tbody > tr")[3:8]

cities = []
for row in rows:
    city = {}
    tds = row.select('td')
    city["City or Municipal"] = tds[0].text.strip()
    city["%_Population"] = tds[1].text.strip()
    city["Population"] = float(tds[2].text.strip().replace(",",""))
    city["area_sqkm"] = float(tds[3].text.strip().replace(",",""))
    city["area_sqm"] = float(tds[4].text.strip().replace(",",""))
    city["density_sqm"] = float(tds[5].text.strip().replace(",",""))
    city["density_sqkm"] = float(tds[6].text.strip().replace(",",""))

    cities.append(city)

print(cities)

df=pd.DataFrame(cities)

df.head() 

1 Ответ

0 голосов
/ 11 апреля 2020
import requests
from bs4 import BeautifulSoup
import pandas as pd


def main(url):
    r = requests.get(url)
    soup = BeautifulSoup(r.content, 'html.parser')
    target = [item.get_text(strip=True) for item in soup.findAll(
        "td", style="text-align:right") if "%" in item.text] + [""]
    df = pd.read_html(r.content, header=0)[5]
    df = df.iloc[1: -1]
    df['Population (2015)[3]'] = target
    print(df)
    df.to_csv("data.csv", index=False)


main("https://en.wikipedia.org/wiki/Metro_Manila")

Вывод: просмотр в режиме онлайн

enter image description here

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...