В пандах Параллельная обработка с использованием Dask - PullRequest
Новая
       17

В пандах Параллельная обработка с использованием Dask

0 голосов
/ 28 мая 2019

Я хочу сократить время процесса в пандах.

Я пытался уменьшить объем памяти панд, используя метод .cat, и пробовал многопроцессорную обработку, но время не изменилось 

import multiprocessing
import time
import pandas as pd
start=time.time()

def square(df1):
    df1['M_threading'] = df1['M_Invoice_type']
def multiply(df4):
    df4['M_threading'] = df4['M_Invoice_type']

if __name__ == '__main__':
    df = pd.read_excel("C:/Users/Admin/Desktop/schindler purchase Apr-19.xlsx")
    df1 = df.loc[df['M_Invoice_type'] == 'B2B']
    df4 = df.loc[df['M_Invoice_type'] == 'B2BUR']
    p=multiprocessing.Process(target=square,args=(df1,))
    p1 = multiprocessing.Process(target=multiply, args=(df4,))
    p.start()
    p1.start()
    p.join()
    p1.join()
    print("Done")
    end=time.time()
    print(end-start)

пожалуйста, кто-нибудь может помочь с этим

...