Есть ли задержка или ограничение записи в хранилище из временной папки? - PullRequest
0 голосов
/ 31 января 2020

Я просто хочу знать, что некоторые вызовы работают, а некоторые нет. Я не смог найти никакой официальной документации относительно задержки или ограничения в квотах, предоставленных Google.

Например: я создал фрейм данных со следующим кодом:

empty_df = pd.DataFrame(val)
empty_df.to_csv('/tmp/{}.csv'.format(SAMPLE))

storage_client = storage.Client()
bucket = storage_client.get_bucket(bucket_name)
blob = bucket.blob('FOLDER1/{}.csv'.format(SAMPLE))
blob.upload_from_filename('/tmp/{}.csv'.format(SAMPLE)) 

Переменная SAMPLE, которую я определил в коде, менялась при каждом l oop. Я запускал его для l oop, а также облачных функций, запускаемых несколько раз (от 1 до 50 или более 50). До этого момента все выглядит хорошо. После завершения функции я не вижу некоторые файлы CSV в папке «FOLDER1». И у меня тоже есть такая же проблема в функции copy_blob .

Например: я хочу переместить файлы CSV из FOLDER1 в FOLDER2 с новым именем, которое я создал с помощью вышеуказанных кодов. Некоторые из файлов CSV не отображаются в FOLDER2, а также выдают ошибку 404 not found files в журналах. Но когда я вручную проверил сегменты, я вижу там файлы.

def copy_blob(
    bucket_name, blob_name, destination_bucket_name, destination_blob_name,
    status_path,  delete_blob = None
):
    """Copies a blob from one bucket to another with a new name."""

    storage_client = storage.Client()
    source_bucket = storage_client.bucket(bucket_name)
    source_blob = source_bucket.blob(blob_name)
    destination_bucket = storage_client.bucket(destination_bucket_name)


    blob_copy = source_bucket.copy_blob(
        source_blob, destination_bucket, destination_blob_name
    )

    #delete old blob
    if delete_blob == True : 
        source_blob.delete()                
    else: 
        pass 

    print(
        "Blob {} in bucket {} copied to blob {} in bucket {}.".format(
            source_blob.name,
            source_bucket.name,
            blob_copy.name,
            destination_bucket.name,
        )
    )

Я использовал этот код для перемещения файлов. У кого-нибудь есть идея?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...