Получить данные из API и сохранить их в базе данных Postgresql - PullRequest
0 голосов
/ 18 декабря 2018

Я начинаю с Python и в настоящее время пишу скрипт, который получает данные из API, обрабатывает их и сохраняет в базе данных Postgresql.Я использую Django и Postgresql, оба они dockerized.

Код получает данные из API и показывает для меня, так что эта часть в порядке.Теперь проблема в том, как сохранить его в базе данных.

Раньше я делал это в PHP с Symfony, и это было примерно так:

PHP / Symfony

/*Movie*/
$movie_imdb_id = 'NULL';
$movie_status = $value->isPlaying;

$movie = new Movie();
$movie->setImdbId($movie_imdb_id);
$movie->setStatus($movie_status);

$entityManager->persist($movie);
$entityManager->flush();

Я хочу сделать то же самое, но в Python.Вот мой сценарий.

Python / Django

#RestfulClient.py

import requests 
from requests.auth import HTTPDigestAuth
import json
import psycopg2

conn = psycopg2.connect(database="database", user="user", password="password", host="host", port="port")
url = "url_api"

myResponse = requests.get(url, verify = True)

if(myResponse.ok):
    jData = json.loads(myResponse.content)
    for f in jData:
      #print(json.dumps(jData, indent = 4, sort_keys = True))
      cur = conn.cursor()
      cur.execute("INSERT INTO table VALUES ('value', 'value')")
      conn.commit()
else:
    myResponse.raise_for_status() 

Моя главная проблема заключается в том, как ВСТАВИТЬ данные, которые я получилв таблицах Postgres, поскольку они являются объектами.

Спасибо за любую помощь!

EDIT 1

Итак, после прочтения руководства, @Крис пост, я переделал свой код во что-то более читабельное

Python 2

import json
import urllib3
import psycopg2

conn = psycopg2.connect(database="pp-db", user="root", password="root", host="db", port="5432")
cur = conn.cursor()

http = urllib3.PoolManager()
url = "https://api-content.ingresso.com/v0/theaters"

try:
    response = http.request('GET', url)
    data = json.loads(response.data.decode('utf-8'))

    for i in data:
        cityName = None
        uf = None

        cityName = i['cityName']
        uf = i['uf']

        cur.execute("INSERT INTO city VALUES(%s, %s)", (cityName, uf))
        conn.commit()
    cur.close()
except IOError as io:
    print("ERROR!")

Хорошо, пока все хорошо, но когда я выполняюсценарий, он возвращает меня с ошибкой:

psycopg2.DataError: invalid input syntax for integer: "Rio de Janeiro"

Я думаю, что это может быть потому, что я забыл передать id, так как эта таблица имеет (id, cityNameуф).Я должен вручную вставить идентификатор в таблицу?

Я создал индекс в качестве ключа Id.Работает просто отлично.

1 Ответ

0 голосов
/ 18 декабря 2018

Итак, после некоторого кодирования я наконец добился успеха.Вот код, который я сделал.Хотя я уверен, что есть лучший способ сделать это, тем не менее, он работает.

PYTHON - WORKING

import json
import urllib3
import psycopg2

conn = psycopg2.connect(database="db", user="user", password="pass", host="host", port="port")
cur = conn.cursor()

http = urllib3.PoolManager()
url = "https://url"

try:
    response = http.request('GET', url)
    data = json.loads(response.data.decode('utf-8'))
    index = 0 #I'm using index as an id_key

    for i in data:
        var1 = None
        var2 = None

        var1 = i['var1']
        var2 = i['var2']

        cur.execute("""
            INSERT INTO table
            VALUES (%s, %s, %s); 
            """,
            (index, var1, var2))
        conn.commit()
        index += 1 
    cur.close()
except IOError as io:
    print("ERROR!")
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...