Следите за последней прочитанной записью в MySQL - PullRequest
0 голосов
/ 04 июня 2019

У меня есть 2 базы данных в MySQL:

1) Вход Latitude-Longitude_dB ('latlong_db', впредь): он имеет широту и долготу каждого чтения с устройства слежения GPS.

input_latlong dB

2) A Weather_db: я считываю входные латлонги из dB1 и вычисляю «текущие» погодные данные для каждой пары латлонгов (например, влажность), cloud_coverage).Эти данные о погоде записываются в Weather_db.

weather_dB

Проблема заключается в следующем: мне нужно отслеживать, какая запись (какой 'входной латлонг') былапрочитайте в последний раз.Это сделано для того, чтобы я не пересчитывал weather_data для латлонгов, которые я уже рассмотрел.Как отследить последнее чтение input_latlong?

Большое вам спасибо.


Редактировать: 1) Для тех, кто спрашивал о «таблице базы данных v / s»вопрос, ответ таков: я читаю из 1 базы данных и записываю во 2 базу данных.Файл config.json для подключения к двум базам данных выглядит следующим образом:

{
"Tracker_ds_locallatlongdb": {
        "database": "ds_testdb1",
        "host": "XXXXXXXXXXX",
        "port": XXXX,
        "user": "XXXX",
        "password": "XXXXX"
    },
    "Tracker_ds_localweatherdb": {
    "database": "ds_testdb2",
        "host": "XXXXXXX",
        "port": XXXX,
        "user": "XXXX",
        "password": "XXXXX"
    }
}

2) Мой скрипт Python для чтения из input_latlong_db и записи в weather_db описан следующим образом.Я использую OpenWeatherMap API для расчета данных о погоде для заданных широт и долгот:

from pyowm import OWM
import json
import time
import pprint
import pandas as pd

import mysql.connector
from mysql.connector import Error



api_key = 'your api key'

def get_weather_data(my_lat, my_long):
    owm= OWM(api_key)
    obs= owm.weather_at_coords(my_lat.item() , my_long.item() )   #Use: <numpy.ndarray>.item:
    w= obs.get_weather()
    l= obs.get_location()

    city= l.get_name()
    cloud_coverage =w.get_clouds()
    .
    .
    .
    w_datatoinsert= [my_lat, my_long, w_latitude, w_longitude, city, weather_time_gmt,call_time_torontotime,
    short_status, detailed_status,
    temp_celsius, cloud_coverage, humidity, wind_deg, wind_speed,
    snow, rain, atm_pressure, sea_level_pressure,sunset_time_gmt ] #15 + act_latitude + act_longitude
    return w_datatoinsert

# ------------------------------------------------------------------------------------------------------------------------------------
spec_creds_1= {}
spec_creds_2= {}
def operation():
    with open('C:/Users/config.json') as config_file:
        creds_dict= json.load(config_file)
        spec_creds_1= creds_dict['Tracker_ds_locallatlongdb'] 
        spec_creds_2= creds_dict['Tracker_ds_localweatherdb']
        try:
            my_conn_1= mysql.connector.connect(**spec_creds_1 )
            if (my_conn_1.is_connected()):
                info_1= my_conn_1.get_server_info()
                print("Connected ..now reading the local input_latlong_db: ", info_1)
                try:
                    my_conn_2= mysql.connector.connect(**spec_creds_2)
                    if (my_conn_2.is_connected()):
                        info_2= my_conn_2.get_server_info()
                        print('Connected to write into the local weather_db: ', info_2)
                        cursor_2= my_conn_2.cursor()
                        readings_df= pd.read_sql("SELECT latitude, longitude FROM readings_table_19cols;", con= my_conn_1)
                        for index, row in readings_df.iterrows():
                            gwd= get_weather_data(row['latitude'], row['longitude'])
                            q= "INSERT INTO weather_table_19cols VALUES(" +        ",".join(["%s"]*len(gwd))     +    " ); "
                            cursor_2.execute(q, gwd)
                            my_conn_2.commit()
                except Error as e:
                    print("Error while connecting to write into the local weather_db: ", e)
                finally:
                    if (my_conn_2.is_connected()):
                        cursor_2.close()
                        my_conn_2.close()
                        print("Wrote 1 record to the local weather_db.")
        except Error as e:
            print("Error connecting to the local input latlong_db: ", e)
        finally:
            if (my_conn_1.is_connected()):
                my_conn_1.close() # no cursor present for 'my_conn_1'
                print("Finished reading all the input latlongs ...and finished inserting ALL the weather data.")


#-------------------------------------------------------------------------------



if __name__=="__main__":
    operation()

1 Ответ

0 голосов
/ 12 июня 2019
  1. В Input_latlong_table- readings_table_19cols: я создал автоинкремент readings_id в качестве первичного ключа и столбец с именем read_flag, значение по умолчанию которого было 0.

  2. В weather_table_19cols: я создал автоинкремент weather_id в качестве первичного ключа.

  3. Так как мой метод предполагает чтение входной длительной записи и, соответственно, запись ее погодных данных в weather_table, я сравнил индекс readings_table_19cols и weather_table_19cols. Если они совпадают, это означает, что входная запись была прочитана, и я установил бы read_flag в 1.

..

for index_1, row_1 in readings_df_1.iterrows():

                            gwd= get_weather_data(row_1['imei'], row_1['reading_id'] ,row_1['send_time'],row_1['latitude'], row_1['longitude'])

                            q_2= "INSERT INTO weather_table_23cols(my_imei, my_reading_id, actual_latitude, actual_longitude, w_latitude, w_longitude, city, weather_time_gmt, OBD_send_time_gmt, call_time_torontotime, \
                            short_status, detailed_status, \
                            temp_celsius, cloud_coverage, humidity, wind_deg, wind_speed, \
                            snow, rain, atm_pressure, sea_level_pressure,sunset_time_gmt) VALUES("  +  ",".join(["%s"]*len(gwd))     +    " ); "

                            q_1b= "UPDATE ds_testdb1.readings_table_22cols re,  ds_testdb2.weather_table_23cols we \
                             SET re.read_flag=1 WHERE (re.reading_id= we.weather_id);"  # use the prefix 'db_name.table_name' if 1 cursor is being used for 2 different db's

                            cursor_2.execute(q_2, gwd)
                            my_conn_2.commit()
                            cursor_1.execute(q_1b) # use Cursor_1 for 1st query 
                            my_conn_1.commit()
...