Это ответ на эти вопросы SO
Что необходимо сделать для разделения файлов TFRecords?
оптимальный размер файла tfrecord
и этот отрывок из этого урока
Для этого небольшого набора данных мы просто создадим один файл TFRecords для обучающего набора и другой для тестового набора.Но если ваш набор данных очень большой, вы можете разбить его на несколько файлов TFRecords, называемых осколками.Это также улучшит случайную перестановку, поскольку API набора данных перетасовывает только из меньшего буфера, например, из 1024 элементов, загруженных в ОЗУ.Так, если у вас есть, например, 100 файлов TFRecords, рандомизация будет намного лучше, чем для одного файла TFRecords.
https://github.com/Hvass-Labs/TensorFlow-Tutorials/blob/master/18_TFRecords_Dataset_API.ipynb
Таким образом, существует оптимальный размер файла, ноМне интересно, есть ли оптимальное количество элементов?Так как сами элементы распределяются по ядрам графических процессоров?