Я читал руководство по производительности TF для раздела «Загрузка данных».Для предварительной выборки написано:
API tf.data предоставляет программный механизм конвейерной передачи через преобразование tf.data.Dataset.prefetch, которое можно использовать для отделения времени, когда данные создаются от временикогда данные потребляются.В частности, преобразование использует фоновый поток и внутренний буфер для предварительной выборки элементов из входного набора данных до того времени, когда они запрашиваются.Количество элементов для предварительной выборки должно быть равно (или, возможно, больше) количеству партий, потребляемых за один этап обучения.Вы можете либо вручную настроить это значение, либо задать для него значение tf.data.experimental.AUTOTUNE, которое предложит среде выполнения tf.data динамически настраивать значение во время выполнения.
Что делает AUTOTUNE для внутреннего использования?Какой алгоритм, эвристика применяется?
Кроме того, на практике, какой вид ручной настройки выполняется?