От очистки до файла CSV - PullRequest
Новая
       22

От очистки до файла CSV

0 голосов
/ 26 июня 2018

Я новичок в python и пытаюсь преобразовать данные в файл CSV, но безуспешно.

Вот код: 

from urllib.request import urlopen, Request
from bs4 import BeautifulSoup
import os
import random
import re
from itertools import cycle

def cleanhtml(raw_html):
  cleanr = re.compile('<.*?>') #cleaning the strings from these terms
  cleantext = re.sub(cleanr, '', raw_html)
  return cleantext

def scrape(url, filename, number_id):
    """
    This function scrapes a web page looking for text inside its html structure and saves it in .txt file. 
    So it works only for static content, if you need text in a dynamic part of the web page (e.g. a banner) 
    look at the other file. Pay attention that the retrieved text must be filtered out 
    in order to keep only the part you need. 

    url: url to scrape
    filename: name of file where to store text
    number_id: itis appended to the filename, to distinguish different filenames
    """
    #here there is a list of possible user agents

    user_agent = random.choice(user_agent_list)
    req = Request(url, headers={'User-Agent': user_agent})
    page = urlopen(req).read()

    # parse the html using beautiful soup and store in variable 'soup'
    soup = BeautifulSoup(page, "html.parser")

    row = soup.find_all(class_="row")

    for element in row:
        viaggio = element.find_all(class_="nowrap")

        Partenza = viaggio[0]
        Ritorno = viaggio[1]
        Viaggiatori = viaggio[2]
        Costo = viaggio[3]

        Title = element.find(class_="taglist bold")
        Content = element.find("p")



        Destination = Title.text
        Review = Content.text
        Departure = Partenza.text
        Arrival = Ritorno.text
        Travellers = Viaggiatori.text
        Cost = Costo.text


        TuristiPerCasoList = [Destination, Review, Departure, Arrival, Travellers, Cost] 
        print(TuristiPerCasoList)

До сих пор все работает. Теперь я должен превратить его в файл CSV. Я пробовал с этим: 

    import csv

    with open('turistipercaso','w') as file:
    writer = csv.writer(file)
    writer.writerows(TuristiPerCasoList)

но ничего не возвращает в CSV-файл. Может кто-нибудь помочь мне понять, что нужно сделать, чтобы превратить в файл CSV?

1 Ответ

0 голосов
/ 26 июня 2018

В каждой итерации вы переназначаете значение TuristiPerCasoList.
То, что вы на самом деле хотите, это list из list из string s, где строка - это значение для определенной ячейки, второй список содержит значения строки, а первый список содержит все строки.

Для этого вам нужно добавить список, представляющий строку в основной список: 

# instead of
TuristiPerCasoList = [Destination, Review, Departure, Arrival, Travellers, Cost]
# use
TuristiPerCasoList.append([Destination, Review, Departure, Arrival, Travellers, Cost])
...