Во время обучения rasa-nlu я получал ResourceExhaustedError. Поэтому я использовал фиксированный размер партии. Но так как у меня будут наборы данных переменного размера, мне нужно знать, как рассчитать максимально возможный размер пакета для любых заданных наборов данных. Есть ли способ сделать это?
Я знаю, что максимальный размер пакета можно рассчитать по формуле:
Максимальный размер пакета = доступные байты памяти GPU / 4 / (размер тензоров + обучаемый параметры)
Как узнать размер тензора и количество обучаемых параметров?