Как обновить большую базу данных? - PullRequest
Новая
       77

Как обновить большую базу данных?

0 голосов
/ 26 декабря 2018

Я собрал задачу rake, чтобы выгрузить zip из потока данных Awin и импортировать его в мою модель продукта с помощью activerecord-import. 

require 'zip'
require 'httparty'
require 'active_record'
require 'activerecord-import'

namespace :affiliate_datafeed do
    desc "Import products data from Awin"
    task import_product_awin: :environment do
        url = "https://productdata.awin.com"
        dir = "db/affiliate_datafeed/awin.zip"

        File.open(dir, "wb") do |f| 
            f.write HTTParty.get(url).body
        end

        zip_file = Zip::File.open(dir)
        entry = zip_file.glob('*.csv').first
        csv_text = entry.get_input_stream.read
        products = []

        CSV.parse(csv_text, :headers=>true).each do |row|
            products << Product.new(row.to_h)
        end
        Product.import(products)
  end
end

Как обновить базу данных продукта, только если продукт не существуетили если в поле last_updated есть новая дата?Каков наилучший способ обновить большую базу данных?

1 Ответ

0 голосов
/ 26 декабря 2018

Вероятно, используйте некоторые методы, такие как следующие, чтобы продолжать проверять поле заголовка last_updated или last_modified в вашей задаче rake. 

def get_date
  date = CSV.foreach('CSV_raw.csv', :headers => false).first { |r| puts r}
  $last_modified = Date.parse(date.compact[1]) # if last_updated is first row of CSV or use your http req header
end

run_once = ARGV.length > 0 # to run once & test if it works; not sure if rake taks accept args.
if not run_once
  puts "Daemon Mode"
end

if not File.read('last_update.txt').empty?
  date_in_file = Date.parse(File.read('last_update.txt'))
else
  date_in_file = Date.parse('2001-02-03')
end
if $last_modified > date_in_file
  "your db updating method"
end
unless run_once
  sleep UPDATE_INTERVAL # whatever value you want for the interval to be
end
end until run_once
...