Я просто хочу знать, что некоторые вызовы работают, а некоторые нет. Я не смог найти никакой официальной документации относительно задержки или ограничения в квотах, предоставленных Google.
Например: я создал фрейм данных со следующим кодом:
empty_df = pd.DataFrame(val)
empty_df.to_csv('/tmp/{}.csv'.format(SAMPLE))
storage_client = storage.Client()
bucket = storage_client.get_bucket(bucket_name)
blob = bucket.blob('FOLDER1/{}.csv'.format(SAMPLE))
blob.upload_from_filename('/tmp/{}.csv'.format(SAMPLE))
Переменная SAMPLE
, которую я определил в коде, менялась при каждом l oop. Я запускал его для l oop, а также облачных функций, запускаемых несколько раз (от 1 до 50 или более 50). До этого момента все выглядит хорошо. После завершения функции я не вижу некоторые файлы CSV в папке «FOLDER1». И у меня тоже есть такая же проблема в функции copy_blob .
Например: я хочу переместить файлы CSV из FOLDER1 в FOLDER2 с новым именем, которое я создал с помощью вышеуказанных кодов. Некоторые из файлов CSV не отображаются в FOLDER2, а также выдают ошибку 404 not found files в журналах. Но когда я вручную проверил сегменты, я вижу там файлы.
def copy_blob(
bucket_name, blob_name, destination_bucket_name, destination_blob_name,
status_path, delete_blob = None
):
"""Copies a blob from one bucket to another with a new name."""
storage_client = storage.Client()
source_bucket = storage_client.bucket(bucket_name)
source_blob = source_bucket.blob(blob_name)
destination_bucket = storage_client.bucket(destination_bucket_name)
blob_copy = source_bucket.copy_blob(
source_blob, destination_bucket, destination_blob_name
)
#delete old blob
if delete_blob == True :
source_blob.delete()
else:
pass
print(
"Blob {} in bucket {} copied to blob {} in bucket {}.".format(
source_blob.name,
source_bucket.name,
blob_copy.name,
destination_bucket.name,
)
)
Я использовал этот код для перемещения файлов. У кого-нибудь есть идея?