В pandas, как открыть CSV с разделителями между предложениями (в неправильном месте)? - PullRequest
0 голосов
/ 21 февраля 2020

В Python3 и pandas Я хочу открыть файл CSV с разделителем ";" и заканчивая латиницей-1. Это файл без имен столбцов. Файл можно увидеть здесь

Однако в текстовом редакторе я заметил, что файл имеет в некоторых строках столбцов символ ";" в середине содержимого или кавычек

Тогда сгенерированный фрейм данных пуст:

import pandas as pd
kwargs = {'sep': ';', 'dtype': str, 'encoding': 'latin-1'}
teste_2016 = pd.read_csv("/home/reinaldo/Documentos/Code/e_sic_federal/2016/20200215_Pedidos_csv_2016.csv", **kwargs)
teste_2016.info()
<class 'pandas.core.frame.DataFrame'>
RangeIndex: 167286 entries, 0 to 167285
Data columns (total 21 columns):
ÿþ3            0 non-null object
Unnamed: 1     0 non-null object
Unnamed: 2     0 non-null object
Unnamed: 3     0 non-null object
Unnamed: 4     0 non-null object
Unnamed: 5     0 non-null object
Unnamed: 6     0 non-null object
Unnamed: 7     0 non-null object
Unnamed: 8     0 non-null object
Unnamed: 9     0 non-null object
Unnamed: 10    0 non-null object
Unnamed: 11    0 non-null object
Unnamed: 12    0 non-null object
Unnamed: 13    0 non-null object
Unnamed: 14    0 non-null object
Unnamed: 15    0 non-null object
Unnamed: 16    0 non-null object
Unnamed: 17    0 non-null object
Unnamed: 18    0 non-null object
Unnamed: 19    0 non-null object
Unnamed: 20    0 non-null object
dtypes: object(21)
memory usage: 26.8+ MB

Я признаю, что это плохо отформатированный CSV, но, к сожалению, это единственный источник информации проект, который я делаю сейчас. Это публицистическое c агентство CSV

Пожалуйста, кто-нибудь знает стратегию создания правильного фрейма данных из файла, подобного этому?

Ниже содержания начальных строк:

345365;99901000001201633;;BB – Banco do Brasil S.A.;Respondido;01/01/2016 09:24:13;consultar meu cpf . no spc e serasa;Consulta do cpf no serasa e spc;25/01/2016 23:59:59;NÃO;NÃO;Pelo sistema (com avisos por email);Internet;604629;Economia e Finanças;Economia;1;25/01/2016 11:30:39;Prezado(a) Sr(a). Gisela,  Encaminhamos, em anexo, resposta ao seu pedido de informação.  Atenciosamente,  Serviço de Informação ao Cidadão do Banco do Brasil – SICBB  Recurso  Conforme a Lei 12527/11 em seu artigo Art. 15, no caso de indeferimento de acesso a informações ou às razões da negativa do acesso, poderá o interessado interpor recurso contra a decisão no prazo de 10 (dez) dias a contar da sua ciência.  Parágrafo único. O recurso será dirigido à autoridade hierarquicamente superior à que exarou a decisão impugnada, que deverá se manifestar no prazo de 5 (cinco) dias.;Acesso Concedido;Resposta solicitada inserida no e-SIC
345366;99902000001201623;;CEF – Caixa Econômica Federal;Respondido;01/01/2016 11:40:16;Esclarecimentos sobre seguro de risco de incêndio;Sou conselheiro de um Condomínio e depois da publicação da NORMA ABNT 16.280 que começou a valer a partir de 18/04/2014 tenho as seguintes dúvidas com relação a instalação de ares condicionados nas unidades condominiais.  Pergunto: quem colocou os ares condicionados antes da publicação da Norma da ABNT esses condôminos têm que apresentar ao síndico a ART da instalação ou não? A Lei retroage nestes casos?  Recentemente um condômino contratou um engenheiro civil para fazer algumas obras no seu apto e instalou os ares condicionados e o engenheiro forneceu a ART.Pergunto: Pode um engenheiro civil dar ART para instalação de ar condicionado? Não é atribuição específica de um engenheiro eletricista?  Se houver um incêndio em sua unidade o seguro pode exigir a ART de um engenheiro eletricista ou não? Vai ter problemas com o seguro caso haja um incêndio nesta unidade habitacional?  Cito como exemplo vários incêndios que ocorreram no passado (Edifício Joelma ) cuja causa foi por causa da instalação elétrica e pegou fogo nos ares condicionados, alguns aptos em Copacabana também.  Fico no aguardo dos esclarecimentos necessários acerca das exigências e implicações das Seguradoras em caso de ocorrer um incêndio em nosso Condomínio por causa da instalação de ares condicionados.  Atenciosamente,  Luciano Miniero  ;25/01/2016 23:59:59;NÃO;NÃO;Pelo sistema (com avisos por email);Internet;537117;Economia e Finanças;Economia;1;05/01/2016 16:32:49;Prezado (a) Senhor (a),     1. Em atenção a sua solicitação, registrada através do E-SIC, site CGU, informamos que não foi possível compreender o seu pedido.     2. Caso seja pertinente à CAIXA, orientamos gerar novo pedido detalhando a sua solicitação.     3. Informamos que a CAIXA mantém SAC para informações, reclamações, cancelamentos, sugestões, serviços e elogios, com atendimento 24 horas por dia 07 dias por semana, pelo DDG 0800 726 0101 e para reclamações não solucionadas no SAC ou denúncias, a CAIXA mantém canal de Ouvidoria com atendimento de segunda a sexta-feira, das 08 às 18 horas, pelo DDG 0800 725 7474.    4. A CAIXA coloca-se à disposição através de seus canais de atendimento.       Atenciosamente,    CAIXA – Serviço de Informações ao Cidadão;Acesso Negado;Pedido incompreensível
345367;99901000002201688;;BB – Banco do Brasil S.A.;Respondido;01/01/2016 12:25:37;SALDO PASEP;Bom dia,   necessito do saldo do PASEP;25/01/2016 23:59:59;NÃO;NÃO;Pelo sistema (com avisos por email);Internet;604635;Economia e Finanças;Economia;1;25/01/2016 11:33:06;Prezado(a) Sr(a). Regina,  Encaminhamos, em anexo, resposta ao seu pedido de informação.  Atenciosamente,  Serviço de Informação ao Cidadão do Banco do Brasil – SICBB  Recurso  Conforme a Lei 12527/11 em seu artigo Art. 15, no caso de indeferimento de acesso a informações ou às razões da negativa do acesso, poderá o interessado interpor recurso contra a decisão no prazo de 10 (dez) dias a contar da sua ciência.  Parágrafo único. O recurso será dirigido à autoridade hierarquicamente superior à que exarou a decisão impugnada, que deverá se manifestar no prazo de 5 (cinco) dias.;Acesso Concedido;Resposta solicitada inserida no e-SIC
345368;99938000001201616;;EPE – Empresa de Pesquisa Energética;Respondido;01/01/2016 12:34:31;Solicitação para acesso a dados específicos sobre consumo de petróleo e gás em determinado período histórico no Brasil;Olá caros membros do EPE, gostaria de solicitar dados sobre a exportação e consumo interno de petróleo no Brasil (caso geral) no período histórico do ano de 1940 (caso não for possível esta datação enviar até a datação possível) a 2010 para fins de produção em pesquisa científica. O segundo ponto que solicito aqui é sobre o consumo de petróleo, óleo e gás designados ao setor industrial no país constituído na mesma datação histórica já determinada. Os objetivos pelo qual solicito é a de construir um banco de dados necessários ao qual possa utilizar em artigos científicos, monografias e teses. Faço essa solicitação por não encontrar nenhum dado específico, ou caderno que indique esses tipos de dados em datação antiga (como 1940). Se possível isso, agradeço.    Cleyton A. Candeira P, Graduando em Ciências Econômicas UFPA/ICSA/FACECON.  Lattes:  http://lattes.cnpq.br/1230234004934771;25/01/2016 23:59:59;NÃO;NÃO;Pelo sistema (com avisos por email);Internet;604636;Ciência, Informação e Comunicação;Informação - Gestão, preservação e acesso;2;07/01/2016 13:14:53;Prezado Senhor,    Os dados solicitados encontram-se no Balanço Energético Nacional. As séries disponibilizadas, no entanto, têm início no ano de 1970.    Para acessá-las, favor consultar o link abaixo:    https://ben.epe.gov.br/BENSeriesCompletas.aspx    Desejamos boa sorte na sua pesquisa!    Atenciosamente,  Serviço de Informação ao Cidadão - SIC  Empresa de Pesquisa Energética - EPE;Acesso Concedido;Resposta solicitada inserida no e-SIC
345370;80200000001201611;;MTur – Ministério do Turismo;Respondido;01/01/2016 15:21:31;cópia termo de convenio em MCIDADES e prefeitura de iturama para construção e urbanização da prainha;Solicito cópia dos termos de convenio nº siafi 585550 e nº567729, entre o Ministerio da cidades e a Prefeitura de iturama para construção e estruturação da prainha as margens do Rio Grande. Os mesmos já foram finalizados e não foi inaugurado e foi aprovado pela Prefeirura projeto de terceirização.;25/01/2016 23:59:59;NÃO;SIM;Pelo sistema (com avisos por email);Internet;604645;Comércio, Serviços e Turismo;Turismo;1;05/01/2016 16:34:00;Segue resposta da área técnica  “Retransmitimos as informações encaminhadas pela mandatária em decorrência da solicitação do requerente:  1             Em atenção à mensagem abaixo, informamos a impossibilidade de atendimento, tendo em vista que, segundo posicionamento da Gerência de Governo em Uberlândia/MG, a documentação dos contratos de repasse 0199798-28 e 0213631-23 não estão mais disponíveis na CAIXA, tendo em vista o disposto na Instrução Normativa STN 01/97, Art. 30, § 1º, que prevê a guarda documental pelo prazo de cinco anos contados a partir da aprovação da prestação de contas no Sistema Integrado de Administração Financeira do Governo Federal – SIAFI.  1.1          As operações tiveram as prestações de contas aprovadas pela CAIXA no SIAFI em 26/11/2008 sob os números 2008NS007495 e 2008NS007505 respectivamente.   Atenciosamente,   Coordenador-Geral de Monitoramento e Fiscalização  Departamento de Infraestrutura Turística-DIETU”  Informamos que, no caso de negativa de acesso à informação ou não fornecimento das razões de negativa de acesso, poderá ser interposto recurso, no sistema, no prazo de 10 (dez) dias, nas formas e condições estabelecidas no parágrafo único, do artigo 15, da Lei 12.527, de 18/11/2011 e no parágrafo único, do artigo 21, do Decreto 7.724, de 16/05/2012.  A autoridade hierarquicamente superior à que adotou a decisão, irá apreciar o recurso.  Lembramos que, a ferramenta de recurso não deve ser utilizada para especificar e/ou reformular pedidos, pois nestas situações é necessário preencher novo formulário.;Acesso Concedido;Resposta solicitada inserida no e-SIC

1 Ответ

1 голос
/ 21 февраля 2020

Вы можете использовать оба разделителя с delimiter=",|\";\""

import pandas as pd
kwargs = {'sep': ';|\";\"', 'dtype': str, 'encoding': 'latin-1'}
teste_2016 = pd.read_csv("/home/reinaldo/Documentos/Code/e_sic_federal/2016/20200215_Pedidos_csv_2016.csv", **kwargs)
teste_2016.info()
...